Pionierul rețelei neuronale spune că pericolele chatbot-urilor erau „destul de înfricoșătoare” și avertizează că ar putea fi exploatate de „actori răi”!
Bărbatul adesea prezentat drept nașul inteligenței artificiale a părăsit Google, invocând îngrijorarea cu privire la inundația de informații false, videoclipuri și fotografii online și posibilitatea ca AI să răstoarne piața muncii.
Dr. Geoffrey Hinton, care împreună cu doi dintre studenții săi de la Universitatea din Toronto a construit o rețea neuronală în 2012, a părăsit Google săptămâna aceasta, a raportat New York Times.
Hinton, în vârstă de 75 de ani, a spus că a renunțat pentru a vorbi liber despre pericolele AI și regretă parțial contribuția sa în domeniu.
El a fost recrutat de Google în urmă cu un deceniu pentru a ajuta la dezvoltarea tehnologiei AI a companiei.
Cercetările lui Hinton au deschis calea sistemelor actuale precum ChatGPT.
El a declarat pentru New York Times că până anul trecut credea că Google a fost un „administrator adecvat” al tehnologiei, dar asta s-a schimbat odată ce Microsoft a început să încorporeze un chatbot în motorul său de căutare Bing, iar compania a început să devină îngrijorată de riscul pentru afacerea sa de căutare.
Unele dintre pericolele chatbot-urilor AI erau „destul de înfricoșătoare”, a spus el pentru BBC , avertizând că ar putea deveni mai inteligenți decât oamenii și ar putea fi exploatate de „actori răi”.
„Am ajuns la concluzia că tipul de inteligență pe care îl dezvoltăm este foarte diferit de inteligența pe care o avem”.
„Deci este ca și cum ai avea 10.000 de oameni care de câte ori o persoană a învățat ceva, toată lumea știa automat acest lucru.
Și astfel acești roboți de chat pot ști mult mai multe decât orice persoană.”
El nu este singurul în eșaloanele superioare ale cercetării AI care se teme că tehnologia ar putea aduce un rău grav umanității.
Luna trecută, Elon Musk a spus că a avut o ceartă cu co-fondatorul Google, Larry Page, deoarece Page „nu ia suficient de serios în calcul siguranța AI”.
Musk a spus la Fox News că Page își dorea „superinteligență digitală, practic un zeu digital, dacă vrei, cât mai curând posibil”.
Valérie Pisano, directorul executiv al Mila, Institutul de Inteligență Artificială din Quebec, a spus că abordarea neplăcută a siguranței în sistemele AI nu va fi tolerată în niciun alt domeniu.
„Tehnologia este disponibilă și, pe măsură ce sistemul interacționează cu omenirea, dezvoltatorii săi așteaptă să vadă ce se întâmplă și să facă ajustări pe baza asta.
Nu am accepta niciodată, ca colectiv, acest tip de mentalitate în niciun alt domeniu industrial”.
Există ceva despre tehnologie și rețelele sociale în care spunem:
„Da, sigur, ne vom da seama mai târziu”, a spus ea.
Preocuparea lui Hinton pe termen scurt este ceva care a devenit deja realitate, oamenii nu vor mai putea discerne ceea ce este adevărat cu fotografiile, videoclipurile și textele generate de AI care inundează internetul.
Actualizările recente ale generatoarelor de imagini, cum ar fi Midjourney, înseamnă că oamenii pot produce acum imagini foto-realiste, o astfel de imagine a Papei Francis într-un geacă puf Balenciaga a devenit virală în martie.
Hinton a fost, de asemenea, îngrijorat de faptul că AI va înlocui în cele din urmă locuri de muncă cum ar fi asistentele juridice, asistenții personali și alte „munci grele” și potențial chiar mai multe în viitor.
Omul de știință și șeful Google, Jeff Dean, a spun într-o declarație că Google a apreciat contribuțiile lui Hinton la companie în ultimul deceniu.
„Mi-au plăcut profund numeroasele noastre conversații de-a lungul anilor. Îmi va fi dor de el și îi urez numai bine!
„Fiind una dintre primele companii care a publicat principiile AI, rămânem angajați într-o abordare responsabilă a AI.
Învățăm continuu să înțelegem riscurile emergente, în timp ce inovăm cu îndrăzneală.”
Știrea a venit atunci când CEO-ul IBM, Arvind Krishna, a declarat pentru Bloomberg că până la 30% din rolurile de birou ale companiei ar putea fi înlocuite de AI și automatizare în termen de cinci ani.
Krishna a spus că angajările în domenii precum resursele umane vor fi încetinite sau suspendate și ar putea duce la înlocuirea a aproximativ 7.800 de posturi. IBM are o forță de muncă globală totală de 260.000.
The Guardian a cerut comentarii de la IBM.
Luna trecută, The Guardian a reușit să ocolească un sistem de autentificare vocală folosit de Services Australia folosind un sintetizator de voce online AI, punând sub semnul întrebării viabilitatea biometrică a vocii pentru autentificare.
Toby Walsh, om de știință șef la Institutul AI al Universității din New South Wales, a spus că oamenii ar trebui să pună la îndoială orice media online pe care o văd acum.
„Când vine vorba de orice date digitale pe care le vedeți, audio sau video, trebuie să vă gândiți că cineva le-a falsificat.”
--------------
Foarte interesant cât de ușor poate fi decredibilizată orice sursă de informare incomodă anumitor grupuri de interese, și în special decidenților și celor care ne conduc, invocând în orice moment ca un fals generat de inteligența artificială!
Sursa: theguardian.com
Adaugă comentariu