En l'era digital que vivim, control de continguts s'ha convertit en un dels reptes més urgents per a les plataformes en línia. Amb l'evolució de la intel·ligència artificial, OpenAI hi creu fermament La capacitat de GPT-4 per abordar i possiblement resoldre aquest problema. Al seu blog oficial, l'empresa més destacada de l'època parla d'una manera excel·lent per canviar de direcció en un futur proper.
Temes d'aquest article:
La idea d'OpenAI sobre el control de contingut és qualsevol cosa menys estúpida
OpenAI, l'organització darrere del programari revolucionari com ChatGPT i DALL-E, està convençut que GPT-4 pot ser la clau per abordar un dels problemes més complexos de la indústria tecnològica: el control de continguts a escala. La idea és que GPT-4 podria substituir un gran nombre de moderadors humans, assegurant una precisió gairebé comparable i una major coherència en les decisions.
Recentment, OpenAI revelat que ja heu experimentat amb GPT-4 per desenvolupar i perfeccionar les vostres polítiques de contingut. Això no només afecta l'etiquetatge del contingut, sinó també prendre decisions crucials sobre què s'ha de permetre i què no. Lilian Weng, responsable de sistemes de seguretat d'OpenAI, va destacar la importància d'aquesta evolució, afirmant que representa un pas important en el camí. La IA es pot utilitzar per abordar problemes reals, oferint solucions que poden beneficiar al conjunt de la societat.
Llegiu també: Aquesta empresa demostra que la IA no ens robarà la feina... al contrari
Les tres raons per les quals el funcionament d'OpenAI és revolucionari
- Coherència en les decisions: A diferència dels humans, que poden interpretar les polítiques de diferents maneres, les màquines són coherents en els seus judicis. Les directrius, que poden ser tan llargues com un llibre i canviar amb freqüència, es poden implementar a l'instant per grans models lingüístics, mentre que els humans necessitarien molta formació per aprendre i adaptar-se.
- Velocitat en la creació de noves polítiques: GPT-4 té la capacitat de desenvolupar una nova política en hores, revolucionant un procés que tradicionalment trigaria setmanes o mesos. Això inclou redactar, etiquetar, recopilar comentaris i perfeccionar les polítiques.
- Benestar dels treballadors: OpenAI posa èmfasi en el benestar dels treballadors que estan exposats contínuament a contingut nociu, com ara vídeos de maltractament infantil o tortura. Automatitzar aquest procés podria reduir l'exposició humana a aquest contingut traumàtic.
Tanmateix, el camí cap a una moderació totalment automatitzada encara és llarg. Tot i que la IA té el potencial de millorar la moderació, encara queden molts reptes per davant. Per exemple, el distinció entre contingut enganyós, incorrecte i agressiu que no són necessàriament il·legals suposa un gran repte per als sistemes automatitzats. Fins i tot els experts humans lluiten per etiquetar aquestes publicacions i les màquines sovint cometen errors.
Perill per al treball humà?
Com és habitual, sempre parlem d'això: ens robarà la feina la IA? Per a la majoria de les empreses que utilitzen la moderació de contingut, val la pena equivocar-se amb precaució. Tot i que la intel·ligència artificial ha progressat significativament en els últims anys, no li llevarà llocs de treball humans aviat. La supervisió humana continua sent un component crític per controlar amb precisió el contingut en línia. Així que la resposta és no, no robarà la feina però la millorarà.
Tanmateix, és important ser conscient que la tecnologia està evolucionant també s'ha de produir un augment corresponent del nivell d'especialització dels treballadors del sector tecnològic. Si aquesta falta, la substitució és inevitable.
"En el millor dels casos, el que tenim i continuarem tenint és un híbrid. Però en els últims anys, tot el que he vist és un augment de la contractació, no una disminució" va dir La professora de la UCLA Sarah T. Roberts a The Verge fa uns quants anys. Una estratègia de moderació de continguts ha de tenir èxit combinant el millor de la tecnologia de nova generació i els agents humans.
