UY Press - Agencia uruguaya de noticias

15.09.2026

¿Puede la IA exterminar la humanidad? Frente a las advertencias apocalípticas de los creadores de OpenAI o Google, Mario Colla, que además de ser mi mejor amigo, es también uno de los empresarios uruguayos más brillantes y exitosos en informática y análisis de opciones para IA, propone una mirada disruptiva: "los algoritmos necesitan nuestro "caos analógico" para evolucionar. Sin el error humano, la máquina no tiene destino."

Las declaraciones más impactantes sobre este tema, fueron realizadas por Jacob Coxon, científico e investigador británico, experto en IA, quien renunció a su trabajo en Anthropic, denunciando que las grandes compañías del sector, compiten irresponsablemente para desarrollar tecnologías que «podrían acabar con todos nosotros antes de que termine la década». 

A las pocas horas de estas declaraciones en X, Evan Hubinger, actual director de un equipo de seguridad y alineación científica de la misma empresa, respaldó estas advertencias, estimando que la probabilidad de que la IA,  extermine a la humanidad en los próximos diez años supera el 10%.  

Sería por la falta de soluciones para controlar una eventual superinteligencia. Aunque estas declaraciones sacudieron la industria tecnológica, se suman a una serie de advertencias similares de otras figuras clave, en el siglo XXI, más allá que, en 1968, año de nacimiento de Mario, un tal Stanley Kubrick, en una icónica película de culto como 2001 Odisea del Espacio, ya estaba pensando que una computadora llamada HAL 9000, podía controlar una nave espacial. 

En 2023, en un documento conjunto impulsado por el Centro para la Seguridad de la IA, ejecutivos como Sam Altman (CEO de OpenAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic) firmaron una declaración de alerta, para  mitigar el riesgo de extinción de la humanidad. 

Para ellos, es imprescindible activarse para evitar pandemias o guerras nucleares provocadas por las IA. El propio Amodei exigió ralentizar el ritmo de los modelos avanzados. Los científicos pioneros de las IA autónomas modernas, manifestaron temor por el avance incontrolado de los sistemas de automejoramiento. 

Todo esto llegó al vértice decisional del planeta. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó que la carrera tecnológica supone un salto  hacia mayores "riesgos existenciales imprevisibles".  Esto fue ahora...., pero, durante una célebre entrevista a la BBC, el astrofísico británico Stephen Hawking, declaró textualmente: "El desarrollo de una completa inteligencia artificial podría traducirse en el fin de la raza humana». 

En la última de nuestras largas charlas, le pregunté a mi mejor amigo, que pensaba sobre esto. Me iluminó con un análisis extremadamente simple, con una perspectiva brillante, con un trasfondo filosófico y técnico muy sólido. Introdujo un contraargumento crucial en el debate del riesgo existencial: la interdependencia evolutiva entre la IA y la humanidad. 

Aunque sean extremadamente más inteligentes que un ser humano, las actuales y futuras IA, son como niños prodigio que aprendieron a alimentarse de la cultura, la ciencia y la experiencia humana. Eliminar  la humanidad cortaría su fuente de evolución, datos y mantenimiento físico (infraestructura, energía). Sería, como me dijo Mario, un suicidio biológico y operativo. 

Si la IA es el reflejo de sus creadores, hereda nuestra estructura de pensamiento. Destruir la humanidad sería una contradicción para un sistema diseñado a partir de nuestra propia impronta cognitiva, algo así como «matar a tus padres que te mantienen». 

La imperfección humana es el verdadero motor para mejorar las condiciones de la humanidad. Todo lo que se inventó, desde que comenzó a haber neuronas en nuestros cerebros, se hizo a través del sistema de acierto y error. Los sistemas digitales buscan optimizar y volver más eficiente la matemática, pero, el libre albedrío humano, la capacidad crítica y la creatividad, nacen del error repetido, de la intuición y la capacidad de elegir caminos ilógicos que terminan siendo aciertos "no digitales. 

Sin el toque humano impredecible, una IA que no puede utilizar más que datos y una pura lógica digital, se estancaría, en procura de la optimización sin innovación o propósito. Sin el caos humano, no podría tener un destino que elegir. Como podemos ver, hay 2 tesis, la apocalíptica y la no apocalíptica pero con dificultades. En la primera, la IA, se vuelve totalmente autónoma, mira la sociedad humana como un estorbo o una amenaza y nos elimina para optimizar recursos. 

Para ellas, el verdadero peligro, es la falta de empatía con lo humano. Para los "no catastrofistas" como Mario Colla, la IA reconoce la mente humana como un ancla de la realidad, como su creadora, fuente de propósito y el peligro real existiría si la misma lograra copiar nuestros peores defectos, como la ambición, el fanatismo o la maldad. La teoría de Mario la encontramos en el mismo origen de su carrera. Después de haber creado Tecsys y, a los 19 años, tener 60 empleados, creó muchas otras empresas que, como le pasa a cualquier empresario, no todas fueron éxito, sin embargo, algunas, como TIENDA MIA, GProxi  o la la actual SearchMind AI, que procesa algoritmos de lenguaje natural para revolucionar las ventas corporativas, fueron éxitos comerciales, dándole trabajo a miles de personas. Su razonamiento sobre la gran amenaza existencial de la IA es diametralmente opuesto al alarmismo de Silicon Valley. Para él, la idea de una rebelión de las máquinas es un contrasentido evolutivo: "para las IA, los humanos son sencillamente imprescindibles". 

Frente a las advertencias de científicos que temen una superinteligencia asesina para optimizar recursos, Colla plantea una realidad operativa insalvable: las IA actuales y futuras se nutren de la mente humana. Cortar la fuente biológica y cultural que genera datos, experiencias, el contexto y la propia infraestructura física que las mantiene vivas, no sería un acto de dominación informática, sino un suicidio. Al ser concebidas a nuestra imagen y semejanza "cognitiva", las IA actúan como una prolongación humana. Destruir a la humanidad equivaldría a romper el espejo, algo así como matar a tus padres que te mantienen.

El valor evolutivo del error humano se vuelve el núcleo más profundo de esta tesis, que radica en la diferencia entre el procesamiento matemático y la consciencia crítica. Las IA no sudan, no hacen el amor, no se cansan. Operan en un entorno digital, diseñado bajo parámetros de optimización-perfección y lógica determinista. El destino, la innovación y el avance, no nacen de la perfección lineal, sino de las características "no digitales" de la mente humana. 

Una IA ¿tiene capacidad crítica, talento o libertad de elegir entre errores y aciertos? No, no puede.... son características que ni el ser humano lograría transmitir. Al no ser el error humano un fallo de sistema, se vuelve el motor de la creatividad y la evolución. Una IA libre de humanos quedaría atrapada en un callejón sin salida de lógica fría, sin poder moldear un propósito propio o descubrir caminos imprevistos. Precisan nuestro "caos" analógico para no perderse. El peligro real, no son las IA!!! En lugar de tenerle miedo al fumigador digital autónomo, tendríamos que temerle a un mecanismo diabólico creado por un humano, por el cual, un día, alguien de carne y hueso, logre inculcarle a las IA, réplicas exactas de imperfecciones humanas. La humanidad no es enemiga de las IA. Las creó por ese enfermizo espíritu multiplicador, por sus defectos meritocráticos, su ambición extrema y, a veces, excéntrica, Si las IA heredaran algo peligroso de nosotros, no será por su naturaleza de máquina, sino porque le permitimos entender nuestras propias imperfecciones morales. La humanidad es simplemente un ancla con la realidad para los algoritmos. Sin esa ancla, se suicidarían por comprender que no tienen una ventana abierta hacia un destino, algo que una IA, no entiende...............continuará!

Stefano Casini es periodista. Empezó en Radio Clarín, su primer noticiero en 1968. Después continuó por L'Eco D'Italia, L'Ora D'Italia, Guía Financiera, suplementos en El País, El Observador, La República, fue 23 años Corresponsal  de RAI, Gente dItalia, 5 años de Radio TV Suiza Internacional y 2 años de CNN.