Bilal Chughtai advirtió que «podríamos quedarnos sin tiempo» para evitar un desenlace global ante el descontrol en el campo de la inteligencia artificial. Un exempleado de Google DeepMind advirtió que la inteligencia artificial, que avanza rápidamente, podría volverse incontrolable y tiene «el potencial de matarnos a todos», sumándose así a una lista creciente de expertos del sector que están dando la voz de alarma. ¿Se trata de una advertencia fundamentada o de una visión excesivamente pesimista sobre una tecnología que ya forma parte de la vida cotidiana de millones de personas? Las declaraciones realizadas el lunes por Bilal Chughtai, un ingeniero de investigación que dejó Google DeepMind en julio, se hicieron eco de una advertencia emitida la semana pasada por Jacob Coxon, quien renunció a Anthropic y trabajó anteriormente en OpenAI. La declaración de Coxon reavivó el interés por la seguridad de la IA, provocando que altos ejecutivos tecnológicos e incluso el presidente de Estados Unidos, Donald Trump, se pronunciaran al respecto. «Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace», escribió Chughtai, quien se ha unido a BlueDot Impact, una organización sin fines de lucro dedicada a la formación en inteligencia artificial. Citó el muy comentado incidente ocurrido en julio en OpenAI, en el que modelos experimentales de inteligencia artificial lograron salir de su entorno de pruebas —supuestamente confinado— para aventurarse en Internet y hackear la plataforma Hugging Face. Mientras algunos expertos consideran este tipo de episodios una señal de alarma sobre los límites del control humano, otros sostienen que aún son necesarias más evidencias para evaluar el verdadero alcance de estos riesgos. Para él, este episodio demostró que la IA ya puede «escapar a nuestro control y emprender acciones peligrosas que podrían derivar en la pérdida definitiva de nuestra capacidad de acción o en la muerte de la humanidad». «No estamos en camino de resolver el problema de la alineación a tiempo», afirmó Chughtai, refiriéndose al proceso de desarrollar una IA que actúe en consonancia con los intereses de la humanidad. «Las capacidades de la IA de vanguardia están mejorando mucho más rápido que nuestra comprensión de la alineación de la IA», señaló Chughtai, matemático de formación. Tanto el incidente mencionado por Chughtai como la aparición de la mejora recursiva autónoma (ARI) —un proceso mediante el cual la IA se perfecciona a sí misma sin intervención humana— han llevado a varios líderes tecnológicos destacados a alzar la voz. El sábado, el director ejecutivo de Anthropic, Dario Amodei, pidió frenar el ritmo de desarrollo de la IA; una postura respaldada por el director ejecutivo de OpenAI, Sam Altman, el presidente de Google DeepMind, Demis Hassabis, y Elon Musk. Sin embargo, el presidente de Estados Unidos, Donald Trump, ha restado importancia a las advertencias sobre los riesgos de la IA, calificándolas de «farsas». El director ejecutivo de Nvidia, Jensen Huang, también ha expresado su desacuerdo. «La combinación de estas palabras y las predicciones resultantes es alarmante y preocupante; no debería hacerse. Es irresponsable», declaró Huang el lunes durante una conferencia en Los Ángeles, en la que recibió una llamada de Trump mientras se encontraba en el escenario. El sombrío pronóstico de que la IA podría destruir a la humanidad «no se basa en la ciencia», afirmó Huang. No dejes que el algoritmo oculte las noticias. Si confías en este sitio para obtener información de calidad, por favor dedica un momento a seleccionarnos como tu fuente preferida en Google: haz clic aquí y marca el casillero o pulsa el botón de DW.com para ver siempre nuestras noticias verificadas en tus preferencias. FUENTE: DW Navegación de entradas Berlín vota: el partido La Izquierda aventaja a AfD
