Recentment, Amazon es va llançar el seu chatbot d'IA Amazon Q, despertant l'interès de les empreses, però també preocupacions entre els empleats per problemes greus de precisió i privadesa. Q es va informar per tenir "al·lucinacions de no poco conto” i va revelar dades confidencials, plantejant preguntes sobre la seguretat de la informació de l'empresa. Aquí teniu els detalls divulgats per Plataforma.
Alerta de seguretat per a Amazon Q: entre dades confidencials i respostes incorrectes
Amazon va presentar el seu chatbot d'IA, anomenat Q, fa tres dies, però no sembla que tot vagi com estava previst. Alguns empleats han donat l'alarma per qüestions de precisió i privadesa: Amazon Q hauria manifestat "al·lucinacions" i revelat informazioni confidencial, com ara la ubicació dels centres de dades d'AWS, els programes de descompte intern i les funcions encara no publicades.
Aquesta informació va sorgir de documents filtrats i obtinguts per Plataforma, destacant a Problema de seguretat de nivell 2, una situació greu que requereix la intervenció urgent dels enginyers.
Malgrat això, Amazon ha minimitzat la importància d'aquestes discussions internes. Un portaveu va dir la compartició de feedback a través de canals interns és una pràctica estàndard a Amazon i que no s'ha identificat cap problema de seguretat com a resultat d'aquests comentaris. L'empresa va subratllar la importància del feedback rebut i la voluntat de continuar perfecciona Amazon Q a mesura que passa de la vista prèvia a la disponibilitat general.
Amazon Q, actualment disponible en una vista prèvia gratuïta, es va presentar com a versió del programari empresarial d'un chatbot, amb funcions inicials destinades a respondre preguntes dels desenvolupadors sobre AWS, modificar codis font i citar fonts. Amazon ha posat èmfasi en la seguretat i la privadesa de Q, contrastant-la amb eines de grau de consum com ChatGPT.
Tanmateix, un document intern va revelar que Q pot "al·lucinar" i proporcionar respostes nocives o inadequades, com ara informació de seguretat obsoleta que podria posar en risc els comptes dels clients. Aquests riscos són propis dels grans models lingüístics, que tendeixen a donar respostes incorrectes o inadequades almenys en algunes ocasions.
Vía | punt inclinat
