Avertisment pentru Tesla: Un fost expert în tehnologie autonomă trage un semnal de alarmă privind siguranța sistemelor FSD
Un accident recent în care a fost implicat sistemul Full Self-Driving (FSD) dezvoltat de Tesla a scos la iveală probleme profunde legate de siguranța și responsabilitatea în contextul mașinilor aproape autonome. Raffi Krikorian, un fost șef de programe de autonomie la Uber, a relatat experiența sa, atrăgând atenția asupra modului în care sistemul, deși performant în multe situații, poate induce o falsă senzație de siguranță, conducând la scăderea vigilenței șoferilor.
Capcana încrederii: Cum funcționează sistemul care induce relaxarea
Krikorian nu contestă utilitatea tehnologiei de asistență în sine, ci subliniază modul în care Tesla solicită șoferilor să supravegheze un sistem conceput pentru a face supravegherea tot mai dificilă. „Sistemul funcționează suficient de bine cât să te condiționeze să ai încredere în el, dar nu suficient de bine încât să elimine nevoia de intervenție umană în momentele limită”, explică acesta. Inițial, Krikorian a utilizat FSD pe autostrăzi, unde performanța părea stabilă. Ulterior, a început să-l folosească și pe drumuri locale, creând un obicei. Această obișnuință este critică: sistemul, funcționând corect în majoritatea timpului, poate modifica treptat comportamentul uman și reduce vigilența, chiar și atunci când șoferul crede că este atent.
Problema este agravată de cadrul legal. Sistemul FSD este încadrat ca Level 2, ceea ce înseamnă că responsabilitatea finală aparține șoferului. Astfel, Tesla beneficiază de imaginea pozitivă când sistemul funcționează, dar șoferul suportă consecințele legale și financiare în cazul unui accident. „Când tehnologia funcționează, beneficiul de imagine merge către Tesla. Când lucrurile merg prost, răspunderea cade pe șofer”, subliniază Krikorian.
Responsabilitate difuză: Cine este gardianul perfect al mașinii autonome?
Unul dintre punctele centrale ale analizei lui Krikorian este că Tesla cere oamenilor să monitorizeze un sistem care, prin natura sa, face supravegherea să pară inutilă. Această combinație produce un efect periculos: încredere suficientă pentru relaxare, dar imperfecțiuni care necesită intervenție umană rapidă. Krikorian citează conceptul de „vigilance decrement”, fenomenul prin care oamenii devin mai puțin atenți atunci când monitorizează pasiv un sistem. Cercetările arată că este nevoie de câteva secunde pentru ca un șofer să se reconecteze mental la sarcina de conducere după ce a lăsat automatizarea să lucreze. Aceste secunde pot face diferența dintre un avertisment și un accident.
Krikorian critică faptul că, legal, șoferul trebuie să fie atent, dar, din punct de vedere psihologic și operațional, sistemul îl antrenează să adopte o stare de supraveghere relaxată. Atunci când sistemul greșește, șoferul trebuie să treacă instantaneu de la un rol pasiv la cel de salvator, lucru pe care Krikorian îl consideră imposibil.
Reacție în piață: NHTSA investighează
Recent, autoritățile au intensificat controalele asupra tehnologiei Tesla. Reuters a raportat că Administrația Națională pentru Siguranța Traficului pe Autostrăzi (NHTSA) a ridicat investigația privind FSD la nivelul unei analize inginerești, o măsură care ar putea precede un recall. Aproximativ 3,2 milioane de vehicule sunt vizate în această investigație, care analizează gestionarea vizibilității de către sistem și rapiditatea alertelelor către șoferi.
Sursa: Playtech.ro
