Raffi Krikorian, CTO de Mozilla y exjefe de vehículos autónomos de Uber, utilizó la función «Full Self-Driving» en una calle residencial. Sus hijos estaban en el asiento trasero.
En un nuevo ensayo en The Atlantic, Krikorian analiza el accidente y ofrece su crítica más informada hasta el momento del problema fundamental con el enfoque de Tesla hacia la autonomía «supervisada», de alguien que literalmente construyó sistemas de conducción autónoma para ganarse la vida.
el accidente
Krikorian describe un paseo dominical que ha realizado cientos de veces: llevando a su hijo a una reunión de Boy Scouts por las calles residenciales del Área de la Bahía. Su Tesla estaba en modo FSD y el sistema funcionaba sin problemas hasta que de repente.
Cuando el Model X entró en una curva, el FSD pareció perder el rumbo, y Krikorian describió que la rueda se sacudía erráticamente y el automóvil desaceleraba sin previo aviso. Agarró el volante pero no pudo recuperarse a tiempo. El auto chocó contra un muro de concreto y resultó pérdida total. Krikorian sufrió una conmoción cerebral, rigidez en el cuello y dolores de cabeza que duraron días. Sus hijos resultaron ilesos.
Lo que hace que este relato sea particularmente sorprendente son los antecedentes de Krikorian. En el Centro de Tecnologías Avanzadas de Uber, dirigió el equipo de construcción de vehículos autónomos y capacitó a gerentes de seguridad humanos sobre exactamente cuándo y cómo intervenir cuando un sistema de conducción autónoma falla. En sus dos años al frente de la división, los primeros programas piloto de Uber no tuvieron lesiones.
A pesar de toda esta experiencia, FSD todavía la tenía.
Dice que comenzó a usar FSD en carreteras donde tenían sentido tener marcas claras en los carriles y un tráfico predecible. Luego lo probó en las carreteras locales, funcionó bien y se convirtió en un hábito. Antes del accidente, tenía las manos en el volante. Hizo lo que Tesla pide a los conductores: escuchar, no conducir. Pero como él dice, el sistema lo ha condicionado a confiar en él.
Tras el accidente, su nombre apareció en el parte del seguro. No el de Tesla. Según el marco legal actual, así funcionan todos los accidentes FSD, el sistema de Tesla está clasificado como nivel 2, lo que significa que el conductor siempre es responsable.
Krikorian también plantea una pregunta preocupante sobre las prácticas de gestión de datos de Tesla. El automóvil registra continuamente la posición de las manos del conductor, el tiempo de reacción y el seguimiento ocular, y Tesla ha utilizado estos datos para culpar a los conductores después de los accidentes. Mientras tanto, los conductores a quienes se les ha pedido sus propios datos dicen que sólo han recibido fragmentos. En un caso histórico de muerte por negligencia en Florida que resultó en un veredicto de 243 millones de dólares, los demandantes tuvieron que contratar a un hacker para recuperar evidencia crítica del chip de computadora de un vehículo accidentado porque Tesla afirmó que no se podían encontrar los datos.
El problema de la vigilancia
La parte más valiosa del ensayo de Krikorian es el análisis de por qué la conducción autónoma «supervisada» está fundamentalmente rota, y hemos cubierto mucho este tema en Electre.
Su argumento básico: Tesla está pidiendo a la gente que supervise un sistema diseñado específicamente para que la supervisión parezca inútil. Como él dice, una máquina poco fiable está alerta, y una máquina perfecta no necesita supervisión, sino una que funcione. casi Crea perfectamente una trampa en la que los conductores confían en él lo suficiente como para dejar de prestar atención.
La investigación respalda esto. Los psicólogos llaman a esto «reducción de la atención». Observar un sistema casi perfecto es aburrido, el aburrimiento lleva a la reflexión y los conductores necesitan entre 5 y 8 segundos para volver a conectarse mentalmente después de que un sistema automatizado toma el control. Pero las emergencias se desarrollan más rápido que eso.
Krikorian cita un estudio del Instituto de Seguros para la Seguridad en las Carreteras que encontró que después de sólo un mes de usar el control de crucero adaptativo, los conductores tenían más de seis veces más probabilidades de mirar sus teléfonos. El propio sitio web de Tesla advierte a los usuarios de FSD que no sean complacientes, pero el buen funcionamiento del sistema fomenta activamente esa complacencia.
Señala dos accidentes bien conocidos para ilustrar las matemáticas imposibles. En el accidente de 2018 en Mountain View en el que murió el ingeniero de Apple Walter Huang, el conductor tuvo seis segundos para conducir su Tesla hacia una mediana de concreto. Nunca tocó el volante. En el accidente de Uber de 2018 en Tempe, Arizona, los sensores detectaron a un peatón con 5,6 segundos de advertencia, pero el conductor de seguridad miró hacia arriba en menos de un segundo.
Krikorian actuó por su cuenta, pero se le pidió que volviera de pasajero a piloto en una fracción de segundo, lo que implicó meses de acondicionamiento. Los registros muestran que hizo girar la rueda. No muestran las matemáticas imposibles de esta transición.
El patrón que describe Krikorian le resultará familiar a cualquiera que haya seguido las controversias sobre el FSD de Tesla: el conductor está condicionado a confiar en el sistema, reducir su vigilancia durante meses de buen funcionamiento, luego señalar los términos de servicio y culparlo cuando algo sale mal. Cuando FSD funciona, Tesla recibe crédito. Si no, se culpa al gerente.
Krikorian también contrasta el enfoque de Tesla con el notable ejemplo de responsabilidad de su competidor. En julio de 2025, BYD anunció que pagará los daños causados por accidentes relacionados con la función de estacionamiento autónomo: no se requiere reclamación de seguro ni impacto en el desempeño del conductor. Este es un ejemplo limitado, pero demuestra que la responsabilidad compartida entre el fabricante del automóvil y el conductor es una elección, no una imposibilidad.
Toma eléctrica
Lo hemos estado diciendo durante años: el FSD de Tesla se vuelve más peligroso a medida que mejora. Cuanto más fluido se vuelve, más adormece a los conductores con una falsa sensación de seguridad y más difícil es recuperarse cuando el sistema inevitablemente comete un error.
Lo que hace que el relato de Krikorian sea tan convincente es que no es un crítico cualquiera de Tesla. Construyó coches autónomos en Uber. Conductores de seguridad capacitados en protocolos de intervención. Intelectualmente entendió el riesgo y aun así se volvió complaciente. Si alguien con esa experiencia puede atraparlo, el propietario promedio de un Tesla no tiene ninguna posibilidad.
La etiqueta «supervisado» es un escudo legal, no una solución de seguridad. Tesla sabe que los humanos no pueden monitorear de manera confiable un sistema que funciona el 99% del tiempo: la investigación es clara y Krikorian lo explica claramente. Aún así, la compañía continúa vendiendo «conducción totalmente autónoma» y señala la letra pequeña cuando las cosas van mal.
Con la NHTSA investigando actualmente más de 80 incidentes de FSD que involucran a 2,88 millones de vehículos y un creciente aluvión de demandas tras el veredicto de 243 millones de dólares en Florida, existe presión para que Tesla realmente comparta la responsabilidad por las fallas de su sistema. BYD ha demostrado que esto es posible. La pregunta es si Tesla alguna vez elegirá la responsabilidad en lugar de la culpa.
FTC: Utilizamos enlaces de afiliados automáticos que generan ingresos. Más.
