Companiile de tehnologie se mișcă prea repede în lansarea unei tehnologii puternice de inteligență artificială care ar putea într-o zi să depășească oamenii?
Aceasta este concluzia unui grup de informaticieni proeminenți și alți oameni de seamă din industria tehnologiei, cum ar fi Elon Musk și co-fondatorul Apple, Steve Wozniak, care solicită o pauză de șase luni pentru a lua în considerare riscurile.
Petiția lor publicată miercuri este un răspuns la lansarea recentă a startup-ului OpenAI din San Francisco a GPT-4, un succesor mai avansat al chatbot-ului său AI larg utilizat ChatGPT, care a ajutat la declanșarea unei curse între giganții tehnologiei Microsoft și Google pentru a dezvălui aplicații similare.
Ce spun ei?
Scrisoarea avertizează că sistemele de inteligență artificială cu „inteligență umană-competitivă pot prezenta riscuri profunde pentru societate și umanitate” – de la inundarea internetului cu dezinformare și automatizarea locurilor de muncă până la riscuri viitoare mai catastrofale din domeniul science fiction-ului.
Se spune că „ultimele luni au văzut laboratoarele de inteligență artificială blocate într-o cursă scăpată de control pentru a dezvolta și a implementa minți digitale din ce în ce mai puternice pe care nimeni – nici măcar creatorii lor – nu le poate înțelege, prezice sau controla în mod fiabil”.
Noul chatbot AI al Microsoft a spus câteva „lucruri nebunești și deranjante”
„Facem apel la toate laboratoarele de inteligență artificială să întrerupă imediat, timp de cel puțin șase luni, instruirea sistemelor de inteligență artificială mai puternice decât GPT-4”, se spune în scrisoare. „Această pauză ar trebui să fie publică și verificabilă și să includă toți actorii cheie. Dacă o astfel de pauză nu poate fi pusă în aplicare rapid, guvernele ar trebui să intervină și să instituie un moratoriu”.
O serie de guverne lucrează deja pentru a reglementa instrumentele AI cu risc ridicat. Regatul Unit a publicat miercuri un document în care subliniază abordarea sa, despre care a spus că „va evita legislația grea care ar putea înăbuși inovația”. Legislatorii din Uniunea Europeană, formată din 27 de națiuni, au negociat adoptarea unor reguli generale privind IA.
Cine a semnat-o?
Petiția a fost organizată de institutul non-profit Future of Life, care spune că semnatarii confirmați includ pionierul AI, câștigător al premiului Turing, Yoshua Bengio și alți cercetători de seamă în domeniul inteligenței artificiale, cum ar fi Stuart Russell și Gary Marcus. Alții care s-au alăturat includ Wozniak, fostul candidat la președinția americană Andrew Yang și Rachel Bronson, președintele Bulletin of the Atomic Scientists, un grup de advocacy orientat spre știință, cunoscut pentru avertismentele sale împotriva războiului nuclear care pune capăt umanității.
Musk, care conduce Tesla, Twitter și SpaceX și a fost un co-fondator OpenAI și un investitor timpuriu, și-a exprimat de mult timp îngrijorarea cu privire la riscurile existențiale ale AI. O includere mai surprinzătoare este Emad Mostaque, CEO al Stability AI, producătorul generatorului de imagini AI Stable Diffusion, care colaborează cu Amazon și concurează cu generatorul similar OpenAI, cunoscut sub numele de DALL-E.
Care este răspunsul?
OpenAI, Microsoft și Google nu au răspuns miercuri solicitărilor de comentarii, dar scrisoarea are deja o mulțime de sceptici.
Cei mai mulți dintre noi suntem încă îngrijorați de inteligența artificială – dar va asculta America corporativă?
„O pauză este o idee bună, dar scrisoarea este vagă și nu ia în serios problemele de reglementare”, spune James Grimmelmann, profesor de drept digital și informațional la Universitatea Cornell. „Este, de asemenea, profund ipocrit ca Elon Musk să se înscrie, având în vedere cât de mult a luptat Tesla împotriva răspunderii pentru IA defectuoasă din mașinile sale autonome.”