OpenAI és una de les empreses més discutides i influents. Recentment, la companyia va publicar una publicació al bloc que va cridar l'atenció d'educadors, estudiants i entusiastes de la tecnologia. La publicació va oferir consells com utilitzar ChatGPT com a eina d'ensenyament. Tanmateix, una part de la publicació va aixecar les celles i va generar debat: l'admissió que Els detectors d'escriptura a mà basats en IA no són tan fiables com podeu pensar. Vegem junts els detalls de l'article.
La realitat dels detectors d'IA segons OpenAI: un marc poco Chiaro
A la secció de preguntes freqüents de la publicació, OpenAI s'ha enfrontat el problema dels detectors d'escriptura d'IA, afirmant que "S'ha demostrat que cap d'aquestes eines distingeix de manera fiable entre el contingut generat per IA i el contingut generat per humans“. Aquesta afirmació és especialment rellevant en una època en què l'escriptura generada per IA és cada cop més sofisticada, fins al punt de confondre fins i tot els experts. De fet, alguns estudis ho han demostrat aquests detectors solen produir falsos positius, posant en dubte la seva eficàcia i fiabilitat.
Textos, precisió i fiabilitat
Però, què significa realment aquesta afirmació en el context més ampli de la intel·ligència artificial i la seva integració a la societat? En primer lloc, destaca la creixent complexitat dels models lingüístics com ChatGPT, que ho són s'han avançat tant que generen textos gairebé indistinguibles dels escrits per humans. Això planteja qüestions ètiques i pràctiques, especialment en l'àmbit acadèmic, on la possibilitat de plagi assistit per IA és una preocupació creixent.
En segon lloc, la declaració d'OpenAI destaca la necessitat de desenvolupar mètodes de detecció més efectius. De moment, molts detectors es basen en mètriques i algorismes que no han estat prou provats o validats. Per exemple, alguns utilitzen l'anàlisi del llenguatge natural (PNL) per buscar patrons específics al text, però aquests patrons es poden manipular o eludir fàcilment. Altres encara es basen en bases de dades d'exemples de text generats per IA, però aquestes bases de dades sovint estan obsoletes o incompletes.
Finalment, la manca de fiabilitat dels detectors d'IA actuals obre la porta a un possible abús. Imaginem un context en què un detector d'IA erroni etiqueta un assaig acadèmic com a generat per IA, posar en risc la carrera d'un estudiant o investigador. O bé, considereu el risc que la gent comenci a dubtar de la veracitat de qualsevol tipus de contingut en línia, alimentant encara més la crisi de desinformació.
Llegiu també: Intel·ligència artificial: per què hem de vigilar els Emirats Àrabs Units
OpenAI: ChatGPT i la seva "ignorància" conscient.
Un altre punt crucial plantejat per OpenAI és el La limitació inherent de ChatGPT a l'hora de reconèixer si un text va ser generat per una intel·ligència artificial o un humà. Aquest és un detall que potser molts no consideren, però que té implicacions importants no només per a l'acadèmia sinó també per a la indústria i la societat en general. Per exemple, si ChatGPT no pot distingir entre contingut generat per IA i contingut humà, com podem confiar-hi per a altres tasques complexes com ara la recerca acadèmica, generant informes financers o fins i tot redactant documents legals?
El fals i la inconsciència
Aquesta "ignorància" de ChatGPT també planteja qüestions ètiques i de responsabilitat. Si un model d'idioma d'IA no pot identificar la seva pròpia "mà" en la creació de text, pot ser que sense voler ccontribuir a la difusió d'informació falsa o enganyosa. Això és especialment preocupant en camps com el periodisme i la ciència, on la precisió i la verificabilitat de la informació és primordial. El que és segur és que això és evitable quan l'home va a revisar un text creat (com hauria de ser).
A més, la limitació de ChatGPT planteja una pregunta més gran sobre la naturalesa de la intel·ligència artificial. Si un model d'IA no té "consciència" de les seves accions, fins a quin punt el podem considerar "intel·ligent"? I com canvia això la nostra comprensió de la intel·ligència artificial com a extensió o complement de la intel·ligència humana? Són preguntes que la comunitat científica encara intenta respondre.
Tot i que les eines de detecció automàtica basades en IA no són fiables, això no vol dir que un humà mai pugui detectar l'escriptura generada per la IA. Per exemple, un professor que conegui bé l'estil d'escriptura d'un alumne pot notar quan aquest estil canvia de sobte. Tanmateix, de moment, és recomanable evitar completament les eines de detecció d'IA.
