La startup de recerca en intel·ligència artificial OpenAI va llançar dimarts una eina destinada a entendre si un text va ser escrit per un humà o un ordinador.
Els creadors de ChatGPT OpenAI llança una eina per detectar textos generats per IA
OpenAI, l'empresa darrere de ChatGPT, un chatbot capaç de generar text semblant a un humà, es va fer viral després de ser llançat fa dos mesos. Microsoft va anunciar la setmana passada una inversió multimilionària a OpenAI i va dir que incorporaria els models d'IA de la startup als seus productes de consum i empreses.
Des que ChatGPT va debutar al novembre, alguns dels districtes escolars més grans dels Estats Units, inclosa la ciutat de Nova York, han prohibit el chatbot d'IA per la preocupació que els estudiants utilitzin el generador de text per enganyar o plagiar.
El CEO d'OpenAI, Sam Altman, va dir que l'educació ha canviat en el passat amb l'arribada de les calculadores i altres tecnologies, però també va suggerir que l'empresa podria tenir una manera d'ajudar els professors a descobrir el text escrit per l'IA.
La nova eina d'OpenAI no és perfecta i la companyia diu que encara és un treball en curs i que es poden produir errors durant l'ús. "En la nostra avaluació del nostre 'conjunt de reptes' de textos en anglès, el nostre classificador va identificar correctament el 26% del text escrit per IA (veritables positius) com a 'probablement escrit per una IA', mentre que el 9% del text escrit per humans era incorrecte. etiquetat com a escrit per IA (falsos positius) ", va escriure l'empleat d'OpenAI.
La nova eina no és fiable a l'hora d'analitzar articles amb menys de 1000 caràcters, i OpenAI no recomana el seu ús per a idiomes diferents de l'anglès. A més, el text de l'IA es pot actualitzar una mica prou per evitar que el classificador jutgi correctament que no és obra d'un humà.
OpenAI diu que s'està posant en contacte amb els educadors per parlar de les capacitats i limitacions de ChatGPT i que continuarà treballant per detectar text generat per IA.
En oferta a Amazon
