OpenAI, l'empresa d'intel·ligència artificial que va sorprendre el món amb les seves innovacions, s'està formant un nou organisme sectorial. L'objectiu? Promoure el desenvolupament segur i responsable de sistemes d'IA de frontera. Aquest és un pas important, atès que tant els governs com la indústria estan d'acord que malgrat elLa IA ofereix una enorme promesa en benefici del món, calen mesures de seguretat adequades per mitigar els riscos.
OpenAI, Anthropic, Google i Microsoft: les tres àrees clau per a un futur segur de la IA
Il Fòrum Model de Frontera (aquest és el nom) se centrarà en tres àrees clau durant el proper any per donar suport al desenvolupament segur i responsable de models d'IA de frontera. Primer de tot, identificarà les millors pràctiques, fomentant l'intercanvi de coneixement entre la indústria, els governs, la societat civil i el món acadèmic. En segon lloc, donarà suport a la investigació sobre seguretat de la IA, identificant les preguntes de recerca més importants en aquest camp. Al final, facilitarà l'intercanvi d'informació entre empreses i governs, establint mecanismes segurs i fiables per compartir informació relacionada amb la seguretat i els riscos de la IA.
Llegiu també: OpenAI presenta Superalignment: com la IA pot seguir la intenció humana
Un compromís compartit amb un futur segur de la IA
Nombrosos líders del sector han expressat el seu entusiasme per aquesta iniciativa. Kent Caminador, President d'Afers Globals de Google & Alphabet, va dir: "Estem encantats de treballar juntament amb altres empreses líders, compartint coneixements tècnics per impulsar la innovació responsable en IA. Hem de treballar tots junts per garantir que la IA beneficiï tothom“. També Brad Herrero, vicepresident i president de Microsoft, va subratllar la importància d'aquesta iniciativa: "Les empreses que creen tecnologia d'IA tenen la responsabilitat d'assegurar-se que sigui segura i estigui sota control humà. Aquesta iniciativa és un pas crític per unir el sector tecnològic per avançar de manera responsable la IA i abordar els reptes d'una manera que beneficiï tota la humanitat.".
Anna Makanju, vicepresident d'Afers Globals d'OpenAI, va destacar que les tecnologies avançades d'IA tenen el potencial d'aportar beneficis profunds a la societat. Va afirmar que la realització d'aquest potencial requereix supervisió i govern. Va destacar la importància de les empreses d'IA, especialment les que treballen en els models més potents, alineant-se en un terreny comú i promovent pràctiques de seguretat pensades i adaptables. Això, va dir, garantirà que les potents eines d'IA tinguin el major avantatge possible. Va destacar que es tracta d'una feina urgent i que el fòrum està ben posicionat per actuar ràpidament per millorar l'estat de la seguretat de la IA.
