OpenAI presenta el concepte de Superalineació, un important pas endavant en la gestió dels riscos associats a la superintel·ligència. La superintel·ligència, definida com la tecnologia més impactant mai inventada per la humanitat, podria ajudar a resoldre molts dels problemes més importants del món. No obstant això, el gran poder de superintel·ligència també podria ser molt perillós, comportant la desempoderament de la humanitat o fins i tot l'extinció humana.
OpenAI presenta Superalignment: l'intent d'"alinear" la intel·ligència artificial amb la intenció humana
Tot i que la superintel·ligència pot semblar llunyana, OpenAI creu que podria arribar aquesta dècada. La gestió d'aquests riscos requerirà, entre altres coses, noves institucions de govern i resolució del problema de l'alineació de la superintel·ligència: Com podeu assegurar-vos que els sistemes d'IA que són molt més intel·ligents que els humans segueixin la intenció humana?
Actualment, no hi ha solució per guiar o controlar un sistema de superintel·ligència. Tècniques actuals d'alineació d'IA depenen de la capacitat dels humans per supervisar la IA, que no escalarà a superintel·ligència. L'objectiu d'OpenAI és construir un cercador automatitzat d'alineació a nivell humà. Per aconseguir-ho, cal desenvolupar mètodes d'entrenament escalables.
Llegiu també: IA i AGI: el CEO de Google, DeepMind, prediu un avenç imminent
OpenAI està reunint un equip d'investigadors i enginyers d'aprenentatge automàtic per treballar en aquest problema. El 20% de la potència informàtica disponible durant els propers quatre anys es dedicarà a resoldre aquest problema. L'objectiu és resoldre els reptes tècnics fonamentals de l'alineació de la superintel·ligència en quatre anys. OpenAI convida a tots aquells que han tingut èxit en l'aprenentatge automàtic a centrar la seva atenció en l'alineació. Els fruits d'aquest esforç es compartiran àmpliament, i l'alineació i la seguretat dels models no OpenAI són importants. Cal dir que la companyia també treballarà per millorar la seguretat dels models actuals i abordar altres riscos que provenen de la IA.
La resolució de l'alineació de la superintel·ligència requereix les millors ments del món. OpenAI fomenta la col·laboració interdisciplinària i compromís actiu amb qüestions sociotècniques relacionades amb l'alineació de la superintel·ligència.
