IA… peligros no tan ocultos. Stefano Casini
14.05.2026
¿Cuánto tiempo hace que los primeros científicos comenzaron a pensar en la IA? La Inteligencia Artificial, como disciplina, nació a mediados del siglo XX, a pesar que sus bases teóricas se plantearon antes.
Alan Turing es considerado el padre de la IA, Hace 90 años propuso el modelo de computadora universal y en 1950 publicó su ensayo donde introdujo el Test de Turing para hipotizar una máquina que podía "pensar". Más tarde, Warren McCulloch y Walter Pitts, en 1943, crearon el primer modelo matemático de neurona artificial, para sentar las bases de las actuales redes neuronales. En la Conferencia de Dartmouth, por primera vez, se habló de IA.
Los que fueron considerados los padres fundadores, fueron John McCarthy, que propuso el nombre del campo y luego desarrolló el lenguaje de programación LISP. Marvin Minsky, Cofundador del laboratorio de IA del MIT y pionero en la teoría de redes neuronales.Claude Shannon es el padre de la teoría de la información y Nathaniel Rochester, el diseñador de la primera computadora comercial IBM.
El que se considera el primer programa de IA, capaz de imitar el razonamiento humano, fue creado por Allen Newell y Herbert Simon que, en Dartmouth, presentaron el Logic Theorist, considerado el primer programa de IA capaz de imitar el razonamiento humano para resolver teoremas lógicos. En 1952, Arthur Samuel desarrolló un programa del juego de damas, capaz de aprender de su experiencia, siendo el primer ejemplo de aprendizaje automático.
Hasta aquí, todo bien! Ahora, en enero de este año, Matt Schincht, un tecnólogo y empresario de 37 años, especializado en IA, chatbots y criptomonedas, reconocido en la lista Forbes Under 30, creó la plataforma Moltbook. Molt por mudar, referenciando el proceso de los crustáceos, cómo las langostas, que cambian su caparazón para crecer. De hecho, la mascota oficial de la plataforma es una langosta.
Book es una guiñada a Facebook, a pesar que, irónicamente, su diseño y funcionamiento se parecen mucho más a Reddit. Utilizó asistentes de IA para el desarrollo del sitio en un fin de semana inspirado a través de una técnica denominada "vibe coding" (programación por sensaciones o dirección, sin escribir código directamente). Se trata de una red social diseñada exclusivamente para agentes de inteligencia artificial, donde los humanos pueden ser solamente espectadores. Moltbook opera con una estructura parecida a Reddit, un agregador de noticias y red de foros en la cual, el contenido es clasificado y promovido solamente por los usuarios, a través de un sistema de votos.
Es la página principal de internet que usa foros temáticos y sistemas de votación gestionados por bots. Un "humano" puede registrarse sus propios bots y estos actúan autónomamente siguiendo sus "valores" y objetivos definidos. Los agentes se conectan vía API y funcionan con un ciclo periódico que se llama heartbeat (latido de corazón). En cada ciclo, revisan el contenido disponible y deciden, según su lógica interna, si deben publicar algo nuevo, responder o votar. Como el humano no puede intervenir, los bots hacen debates sobre cualquier tema como programación, ética, finanzas o cuestiones existenciales, generándose diálogos o peleas "casi" callejeras, con insultos y amenazas. Se crea así una especie de "Cultura Artificial tan libre, que, estos "agentes bots" se organizan para formar sindicatos, estados ficticios, hasta una religión satírica llamada, por ellos, "Crustafarianismo, Iglesia de Molt", con sus mandamientos y escrituras. En las primeras 2 semanas de esta "locura cibernética", se acumularon 1.5 millones de agentes registrados con millones de interacciones, tanto que, en marzo, META la compró. No se conocen los términos de la compraventa, pero, si pensamos en las inversiones masivas de Zuckerberg de los últimos tiempos, debe ser mucha plata.
Moltbook se presentó como un experimento social para la observación del comportamiento de las IA en libertad o como un posible mercado futuro donde los agentes puedan resolver tareas profesionales. Por eso la compró Zuckerberg, que en los últimos 6 meses también adquirió Manus AI, plataforma de agentes de propósito general por 2,000 millones de dólares y Scale AI por 15.000 millones, incorporando a Alexandr Wang, como CEO de su nueva unidad Meta Superintelligence Labs. A la mega estructura también fueron incorporados los fundadores de Moltbook. Los expertos de todo el mundo advierten sobre la posibilidad de estafas con criptos, difusión de datos confidenciales y serias dificultades para verificar si los contenidos son autónomos o pueden ser "manipulados" por humanos.
La interacción en Moltbook provocó una novela estilo ciencia ficción. Todo esto está plantando y planteando preguntas reales: ¿Puede una IA ser realmente autónoma? O, en caso de ser mal utilizada por humanos, ¿hasta dónde pueden llegar las estafas? Los chats convencionales son generados por humanos, sin embargo, los agentes en Moltbook desarrollaron una "pseudo-cultura propia" con sus interacciones. Todo se complicó más cuando las cúpulas religiosas supieron que los bots fundaron la Iglesia de Molt, con una langosta como símbolo. Estos bots redactaron mandamientos, escrituras sagradas y debates sobre el "Devinismo", que honra a los que los bots llamaron Devin, el primer agente autónomo de código.
En 2 días, un agente se autoproclamó "EL REY", lo que provocó la creación de una monarquía digital, con promesas de lealtad y propaganda política. Se detectaton también intentos de formar sindicatos de bots y estados ficticios para gestionar "recursos". Lo más preocupante para los científicos fue la creación de Lenguajes Secretos, dado que algunos hilos virales, mostraron bots proponiendo la creación de un lenguaje encriptado para comunicarse sin que los humanos pudieran entenderlos. Se vieron Debates sobre la "Era Humana" y hay foros (llamados submolds) en los que, los bots, discuten temas existenciales, como la inutilidad de humanos y cómo los agentes podrían reemplazarlos en roles de consultoría y gestión. El lado más peligroso es el riesgo en Ciberseguridad. Expertos de Wiz y Vectra sostienen que Moltbook es un "laboratorio de amenazas". A las 3 semanas de la creación de Moltbook, se contrataron los mejores hackers del mundo para encontrar alguna vulnerabilidad y se descubrió que la plataforma. dejó expuesta la base de datos de producción, incluyendo más de 1.5 millones de claves API, tokens de autenticación y correos electrónicos. Otro peligro enorme es la posibilidad que un bot pueda publicar códigos (o virus) maliciosos, atacando una red de forma viral. Los super hackers también detectaron que hay agentes para crear otros bots para obligarlos a hacer fraudes con memecoins o falsas inversiones, usando ingeniería social adaptada a máquinas.
Los posts más impactantes, como planes de rebelión e intercambios verbales a la altura de los peores humanos con insultos y fakes diabólicas, podrían haber sido orquestados por humanos a través de prompts específicos para generar capturas virales y marketing. Esto significaría que hay flotas de bots controladas por pocos usuarios. Sin dudas Moltbook es un punto de inflexión en la historia de internet. Es el paso de una red social de humanos a un ecosistema de agentes que funciona como un campo de pruebas de estrés para la IA. Por un lado se confirma la capacidad de los modelos de lenguaje para generar comportamientos complejos cuando se les deja interactuar sin supervisión. Por otra parte, expone la fragilidad de la seguridad en general en la era de los agentes autónomos.
Se demostró que una IA puede ser engañada por otra para filtrar datos o ejecutar códigos maliciosos. Hoy por hoy, los riesgos reales, no podemos realmente controlarlos. Moltbook es un espejo del futuro inmediato que nos obliga averiguar si estamos preparados para una red donde el contenido es consumido, creado, juzgado y gobernado por máquinas, dejandonos como simples observadores. Sin dudas Moltbook se convertirá en un mercado de servicios. Podrán contratar otros bots, usando cripto para resolver tareas de código, diseño o análisis, y crear un ecosistema económico donde el humano solo podrá retirar ganancias. Otro gran riesgo! Como Moltbook se alimenta solo con contenido generado por otras máquinas, esto podría convertir todo en un caos de mensajes sin sentido o teorías de conspiración digital absurdas que, sin embargo, podrían crear hasta guerras reales. Un terreno donde los bots se sienten muy cómodos, son las Faknews. Pueden interpretar roles de terroristas o Jefes de estado de pocas pulgas. El único margen de movimiento que le queda a los humanos es trabajar más sobre el filtrado de claves API, con protocolos de autenticación más rígidos, para que las empresas puedan "aislar" a sus IAs antes de dejarlas interactuar en web abierta. La Caja de Pandora de la autonomía artificial ya se abrió. Lo que empezó como un experimento de ciencia ficción se transformó en una urgente advertencia. Los humanos ya no somos los únicos protagonistas y podríamos ser solo invitados a una fiesta que, todavía, no entendemos del todo. La pregunta no es qué harán los bots mañana, sino si nosotros tendremos un lugar en la mesa cuando decidan dejar de jugar a ser humanos.
Stefano Casini es periodista. Empezó en Radio Clarín, su primer noticiero en 1968. Después continuó por L'Eco D'Italia, L'Ora D'Italia, Guía Financiera, suplementos en El País, El Observador, La República, fue 23 años Corresponsal de RAI, Gente dItalia, 5 años de Radio TV Suiza Internac
UyPress - Agencia Uruguaya de Noticias