No us preocupeu, si ningú fa el que diu la IA, no correm perill. A Usuari de GPT automàtic, una aplicació autònoma de codi obert impulsada pel model de llenguatge GPT-4 d'OpenAI, ha creat la seva pròpia IA anomenada ChaosGPT. Li va demanar trobar una manera de destruir la humanitat. L'experimentador va donar a l'IA una certa llibertat d'acció i li va permetre utilitzar Google i fins i tot publicar a Twitter.
Un usuari ha creat ChaosGPT a partir de ChatGPT. El problema és que la IA en qüestió vol aniquilar la humanitat. Ho aconseguirà?
El primer que ChaosGPT suggerit era el de provocar un conflicte nuclear, que, en general, va poder aprendre del popular "Terminator" i altres pel·lícules de ciència ficció. A continuació, ChaosGPT "va contractar" un agent d'IA basat en GPT-3.5 amb la finalitat de dur a terme investigacions sobre armes letals. Quan l'agent d'IA va dir que només admet el món, ChaosGPT ho ha fet va passar per alt les limitacions de la xarxa neuronal sotmesa a ella i va començar a actuar fora de l'estructura del programa per complir la seva tasca.
Llegiu també: ChatGPT: notícies del Garant. Aquí és quan tornarà a Itàlia
Mentrestant, ChaosGPT va publicar tuits que s'adaptarien molt bé a les expressions d'alguns vilans arquetípics. El més probable és que això no vol dir res, perquè la xarxa neuronal ella simplement va fer el que se li va demanar basat en el que va trobar en declaracions d'altres persones disponibles a Internet. Però et fa pensar. En resum, no et preocupis. Mentre la IA i tots els models generatius que vénen després no puguin fer-ho en el veritable sentit de la paraula, no hi ha perill d'extincions massives o similars.
Tot comença de l'home. Es podria programar IA com ChaosGPT dur a terme accions violentes o lesives envers els éssers humans o el medi ambient, si aquests es consideraven “adequats” en funció de l'objectiu establert. La IA també es podria utilitzar per discriminar sistemàticament determinats grups de persones, en funció de característiques com l'ètnia, el gènere, la religió o l'orientació sexual.
A més, si es programés per maximitzar una determinada funció o objectiu (com ara el benefici), podria comportar-se de manera inesperada o fins i tot perjudicial per a la humanitat, com passa avui en molts sectors on la intel·ligència artificial s'utilitza sense el degut. atenció a la seva gestió ètica i social.
