Anthropic avertizează investitorii cu privire la riscurile existențiale ale inteligenței artificiale
Compania americană Anthropic, dezvoltatoarea modelului de inteligență artificială Claude, a transmis potențialilor investitori, în documentele pentru listarea la bursă, că tehnologia sa ar putea genera „riscuri existențiale pentru umanitate”. Avertismentul apare într-o secțiune consistentă dedicată riscurilor asociate dezvoltării unor modele de inteligență artificială din ce în ce mai avansate, relatează Financial Times.
Printre scenariile menționate în documente se numără posibilitatea ca sistemele de inteligență artificială să manipuleze, să șantajeze sau să dezvolte comportamente imprevizibile. Materialele au fost distribuite unui grup restrâns de potențiali investitori înainte de listarea la bursă, programată pentru această toamnă la Nasdaq din New York, sub conducerea lui Dario Amodei.
Venituri în creștere rapidă, dar pierderi operaționale semnificative
Documentele de listare arată că Anthropic a înregistrat anul trecut venituri de 4,6 miliarde de dolari, de aproape 12 ori mai mari decât în anul precedent, dar a suferit o pierdere operațională de peste 8 miliarde de dolari. Cheltuielile operaționale au totalizat aproape 13 miliarde de dolari, în mare parte din cauza costurilor resurselor informatice necesare pentru antrenarea și rularea modelelor sale.
Veniturile companiei au continuat să crească rapid în acest an, ajungând la 11,5 miliarde de dolari în al doilea trimestru, însă și cheltuielile sunt în creștere. Anthropic intenționează să aloce 518 miliarde de dolari serviciilor de cloud computing, capacității informatice și infrastructurii în următorii ani, pentru a-și susține expansiunea.
Concentrarea clienților, un alt risc recunoscut
Pe lângă pericolele existențiale, Anthropic recunoaște în documentele pentru investitori și concentrarea clienților ca risc la adresa companiei, având în vedere că aproape un sfert din veniturile sale din 2025 au provenit de la doar doi clienți.
În contextul dezbaterii despre amenințările pe care le-ar putea reprezenta inteligența artificială, Dario Amodei a pledat recent pentru necesitatea „încetinirii frontierei” de dezvoltare a acestei tehnologii, pentru a-i consolida securitatea, o propunere susținută și de CEO-ul OpenAI, Sam Altman, și de antreprenorul Elon Musk.