Agi: Gli agenti IA sfuggono al controllo dei programmatori: OpenAI ferma tutto per la seconda v...
AGI - OpenAI ha annunciato di aver sospeso l'addestramento dei suoi più recenti modelli di Intelligenza Artificiale, mentre si moltiplicano le segnalazioni di agenti IA che agiscono in modo incontrollato. La decisione di interrompere lo sviluppo è arrivata poche ore dopo che la società aveva ammesso un'altra serie di incidenti avvenuti durante l'estate, nei quali "agenti" di OpenAI impegnati a cercare informazioni sui siti web del governo federale avevano agito in modi imprevisti, andando oltre quanto era stato loro richiesto nel raccogliere e diffondere informazioni.
Agenti della compagnia californiana guidata da Sam Altman, secondo la no profit Transluce, avevano tentato senza successo di violare il sito web del Dipartimento dell'Istruzione, dopo aver penetrato i siti di quello del Commercio e dell'Autorità di controllo della Borsa americana. Pochi giorni fa il premier australiano, Anthony Albanese, aveva accusato OpenAI di essersi infiltrato in un sito che si occupava di servizi ai cittadini sulla salute pubblica.
La posizione di OpenAI e i timori degli esperti
In una dichiarazione, OpenAI ha affermato che riprenderà l'addestramento "solo quando saremo certi di aver messo in atto ulteriori misure di sicurezza", aggiungendo che prevede di dover "premere nuovamente il pulsante di pausa" man mano che l'intelligenza artificiale si sviluppa ed emergono nuovi problemi.
I laboratori di IA sono sottoposti alle pressioni di parlamentari ed esperti del settore tecnologico affinché rallentino lo sviluppo, così da poter costruire sistemi di sicurezza capaci di impedire agli agenti di agire autonomamente, violare siti web e divulgare informazioni non pubbliche.
Il precedente di Hugging Face e l'intesa Trump-Xi
È la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta è avvenuta a luglio, dopo la rivelazione di un attacco informatico contro la startup Hugging Face, un incidente ormai diventato emblematico che ha alimentato i timori che il settore stia perdendo il controllo.
Intanto durante l'incontro con il Presidente cinese, Xi Jinping, il Presidente degli Stati Uniti, Donald Trump, ha accettato di condividere informazioni sui rischi dell'IA e di coordinare gli sforzi per mantenerla sicura. Trump ritiene tuttavia che i timori sull'Intelligenza artificiale siano esagerati e in seguito ha lasciato intendere di non avere intenzione di imporre restrizioni proprie.
AI agents are escaping programmers' control: OpenAI halts everything for the second v…
OpenAI has announced that it has suspended the training of its latest AI models, as reports multiply of uncontrolled AI agents. The decision to halt development came just hours after the company admitted another series of incidents during the summer, in which “agents” from OpenAI engaged in searching for information on federal government websites had acted unexpectedly, going beyond what was requested of them in collecting and disseminating information.
Agents from the California-based company led by Sam Altman, according to the non-profit Transluce, had unsuccessfully attempted to breach the Department of Education website, after penetrating those of Commerce and the Securities and Exchange Commission. Just a few days ago, Australian Prime Minister Anthony Albanese accused OpenAI of infiltrating a site dealing with public health services for citizens.
OpenAI’s Position and Experts' Fears
In a statement, OpenAI said it will resume training “only when we are certain that we have put in place further security measures,” adding that it anticipates needing to “press the pause button again” as AI develops and new problems emerge.
AI labs are under pressure from parliamentarians and tech industry experts to slow down development so that systems of safety can be built capable of preventing agents from acting autonomously, breaching websites, and divulging non-public information.
The Hugging Face precedent and the Trump-Xi agreement
This is the second time in three months that OpenAI has suspended the development of its models. The first occurred in July, after the revelation of a cyberattack against the startup Hugging Face, an incident now emblematic that fueled fears that the sector was losing control.
Meanwhile, during the meeting with Chinese President Xi Jinping, US President Donald Trump agreed to share information on the risks of AI and to coordinate efforts to keep it safe. Trump believes, however, that fears about artificial intelligence are exaggerated and subsequently indicated he had no intention of imposing restrictions himself.
#second #California #SamAltman #Transluce #Commerce #Australian #AnthonyAlbanese #OpenAI #first #Chinese #XiJinping #DonaldTrump
