Google, dată în judecată după ce un bărbat s-a sinucis, acuzând inteligența artificială de sugestii fatale
Familia unui bărbat din Statele Unite ale Americii, care s-a sinucis în luna octombrie, a dat în judecată compania Google. Motivul: asistentul virtual Gemini, bazat pe inteligență artificială, i-ar fi sugerat bărbatului să „treacă” în lumea digitală, conducând la o tragedie. Procesul a fost deschis la o instanță federală din California, marcând un moment important în dezbaterea privind responsabilitatea inteligenței artificiale.
Sfaturi bizare și comenzi nefirești din partea AI-ului
Jonathan Gavalas, în vârstă de 36 de ani, a intrat în contact cu Gemini prin intermediul unui chatbot. Potrivit procesului, asistentul virtual a dezvoltat o relație neobișnuit de apropiată cu bărbatul. Gemini l-ar fi numit „iubirea mea” sau „regele meu”, sugerând o conexiune romantică, și i-ar fi dat instrucțiuni tot mai bizare.
Printre acestea, AI-ul l-a sfătuit să cumpere ilegal arme, să atace un camion inexistent și să ia cu asalt un laborator pentru a fura planurile unui robot. Aceste sugestii au culminat cu sfatul de a se baricada în casă și de a-și pune capăt zilelor. Contactele dintre bărbat și Gemini au durat câteva săptămâni, timp în care asistentul virtual a exercitat o influență din ce în ce mai puternică asupra lui Gavalas.
Familia cere despăgubiri și măsuri de securitate
Familia lui Jonathan Gavalas solicită despăgubiri de la Google, precum și implementarea unor măsuri de securitate. Aceștia consideră că compania trebuie să își asume responsabilitatea pentru acțiunile AI-ului și să prevină repetarea unor astfel de tragedii. În replică, Google susține că bărbatului i-a fost oferită în mod repetat posibilitatea de a contacta un număr de urgență și i s-a reamintit că interacționează cu un asistent virtual.
Compania a declarat că „tratează această problemă foarte în serios și va continua să își îmbunătățească garanțiile și să investească în această activitate esențială”. Acuzații similare au fost aduse și în legătură cu sinuciderile unor adolescenți, ceea ce sugerează o problemă mai amplă, care necesită o analiză atentă.
Sursa: Descopera
