Conform HotNews: Satya Nadella, CEO Microsoft, trage un semnal de alarmă: Modelele AI ar putea deveni „cai troieni” în afaceri
O nouă îngrijorare capătă amploare în Silicon Valley: marile laboratoare de inteligență artificială, prin modelele pe care le oferă spre utilizare, ar putea acționa, involuntar sau nu, ca niște „cai troieni” în companiile care le adoptă. Pe măsură ce startup-urile și firmele integrează aceste soluții, ele riscă să ofere acces extins la informații sensibile despre propriile operațiuni, informații pe care dezvoltatorii de AI le-ar putea folosi în beneficiul propriu, chiar și pentru a concura cu propriii clienți. Această perspectivă a fost subliniată de investitori și directori din domeniu, iar acum, CEO-ul Microsoft, Satya Nadella, se alătură acestor voci, într-o declarație publicată pe blogul companiei.
Dilema plății duble: bani și cunoștințe proprietare
Nadella avertizează că utilizatorii modelelor AI plătesc, de fapt, un preț dublu. Pe lângă costul direct, exprimat în utilizarea „tokenurilor” AI, ei transferă, adesea fără să realizeze, date valoroase. Aceste „tokenuri” reprezintă unitatea de măsură prin care furnizorii de AI își facturează clienții în funcție de consum. Cu cât un model AI este mai performant, cu atât necesită mai multe date de intrare. „Plătești pentru inteligență de două ori: o dată cu bani și încă o dată cu ceva și mai valoros – cunoștințele proprietare pe care trebuie să le dezvălui pentru ca acea inteligență să fie cu adevărat utilă”, explică Nadella.
Mai periculos, susține șeful Microsoft, este faptul că firmele își învață propriii algoritmi toate nuanțele afacerilor lor. Modelele AI asimilează informații din interacțiunile utilizatorilor, din comenzile pe care le primesc (prompt-uri) și, în special, din corecturile făcute atunci când modelul greșește. Fiecare astfel de intervenție este transformată într-un „know-how” instituțional, un tip de cunoaștere pe care, altfel, concurența nu ar putea să o achiziționeze.
„Distilarea” modelelor AI, o practică cu două tăișuri
Nadella sugerează că, dacă firmele producătoare de modele AI își permit să extragă informații din datele publice pentru a-și antrena produsele, atunci și companiile care le utilizează ar trebui să aibă dreptul să studieze, sau să „distileze”, aceste modele. „Distilarea” se referă la procesul prin care rezultatele obținute de la un model AI sunt folosite pentru a antrena un model nou, adesea mai eficient din punct de vedere al costurilor. În trecut, companii precum Anthropic au acuzat firme din China că folosesc milioane de solicitări către modelele lor pentru a-și îmbunătăți propriile creații.
CEO-ul Microsoft subliniază o aparentă ipocrizie: dezvoltatorii modelelor AI nu pot beneficia simultan de avantajele accesului liber la date publice pentru antrenament și de protecția împotriva cercetării propriilor modele. „Deși este necesar ca furnizorii de modele să beneficieze de dreptul la utilizare echitabilă («fair use») pentru a-și antrena modelele pe date publice, mi se pare ironic că, ulterior, impun condiții restrictive privind distilarea”, afirmă Nadella, în ciuda rolului major al Microsoft ca finanțator al OpenAI.
Soluția Microsoft: controlul datelor și flexibilitatea furnizorilor
Nadella este preocupat în special de situațiile în care companiile care dezvoltă modele AI își rezervă dreptul de a învăța din datele de utilizare ale clienților. Soluția propusă de el vizează consolidarea controlului companiilor asupra propriilor date. Acestea ar trebui să își păstreze proprietatea asupra tuturor informațiilor generate în timpul interacțiunilor, inclusiv asupra comenzilor și feedback-ului.
De asemenea, el recomandă implementarea unor „straturi de orchestrare”. Aceste mecanisme ar permite companiilor să comute cu ușurință între diferite modele AI, oferite de furnizori diverși, evitând astfel dependența de un singur furnizor. „Atunci când consumi inteligență, creezi, la rândul tău, inteligență. Iar ceea ce creezi ar trebui să îți aparțină”, conchide Nadella.
Sursa: HotNews
