La antesala de la singularidad

La antesala de la singularidad

Medio siglo para encontrar el bosón de Higgs, un año para mapear 200 millones de proteínas. El progreso ha cambiado de marcha.

A mediados de octubre, Jack Clark, cofundador de Anthropic, dio una conferencia en la reunión anual del FMI en Bangkok. Habló de lo que investigadores y aficionados a la ciencia ficción llevan años soñando. Y temiendo. La singularidad. Ese momento en que una inteligencia superior acelera su propio progreso tan deprisa que ya no podemos preverlo, controlarlo ni entenderlo.

Clark cree que «este año hemos obtenido pruebas convincentes de que ya ha empezado». No sé si tiene razón. Él es parte interesada y más con su empresa saliendo a bolsa. Pero pensemos juntos.

Empecemos por una de las pistas que esgrime.

Es un examen. TheoPhysEval lo llamaron, diseñado por físicos teóricos de todo el mundo con 50 problemas de investigación inéditos, para que ninguna máquina hubiera podido leer sobre ellos. Un problema típico lo resolvería un experto mundial en su especialidad, pero el examen mezcla tantas especialidades que, según los autores, ningún físico en el mundo tendría formación para intentar más que una parte.

La primera evaluación dejó al mejor modelo ligeramente por debajo del 90%. El caso es que la IA, cabezona ella, insistía en que sus soluciones eran correctas. Los autores pidieron a los expertos que habían escrito esos problemas que revisaran sus cálculos y descubrieron errores sutiles enterrados en ellos. Errores suyos, humanos. Corrigieron la plantilla y la mejor nota, la de un modelo de OpenAI, subió a un contundente 98%.

El examen que habían diseñado para medir a la máquina acabó examinándolos a ellos.

Un pequeño matiz. Las respuestas eran inéditas, pero no así la ciencia para llegar a ellas. Muchas de las fórmulas estaban publicadas y, por tanto, la máquina se las sabía de memoria. Ha mostrado capacidad cognitiva, pero todavía no ha probado tener el equivalente a la creatividad humana, clave en el progreso. Aun con esa letra pequeña, sacar 49 de 50 en un examen que ningún físico podría hacer entero es mucho. A medida que esa capacidad alcance todas las capas de la investigación y la ingeniería, lo que hoy leemos en novelas de ciencia ficción puede llegar en pocos años.

Se me pone la piel de gallina.

El examen destapó lo que los mejores expertos no sabían que no sabían, los errores escondidos en sus propias respuestas. Desde la perspectiva de todo el conocimiento humano, es un hecho que cuantas más respuestas encontramos, más preguntas podemos hacernos. El filósofo inglés Herbert Spencer lo explicó con una imagen tan poética como exacta. Veía el saber humano como una esfera que crece con cada descubrimiento. Cuanto más crece la esfera, más se extiende su superficie, que es la frontera entre lo que sabemos y lo que todavía ignoramos.

La IA acelera lo que sabemos y, con ello, lo que ignoramos; en esa frontera tenemos mucho que ganar y bastante que vigilar.

Bajemos ahora a nuestra escala, tuya y mía, antes de seguir con la singularidad. En los últimos meses, gracias a la IA, he hecho el prototipo de una nueva línea de negocio, un cerebro digital para el trabajo de mi equipo y un videojuego basado en la serie favorita de mi hijo, que él va iterando a su gusto.

Pero donde más lo noto, seguramente porque lo disfruto mucho, es escribiendo. Antes, un artículo eran horas de documentación, un rato para leer lo encontrado, unir ideas y, finalmente, darle forma escribiendo. Hoy la documentación me la trae la IA. Leo más, parte de las conexiones me llegan en bandeja y las cruzo mejor con lo que sé y con lo que quiero decir. No solo escribo con IA, pienso de manera híbrida. Esta columna que lees es mejor que lo que podía escribir hace dos años, y me lleva el mismo tiempo o más, porque mi exigencia ha subido en proporción a mi capacidad.

En ajedrez, a este equipo híbrido de persona más máquina lo llaman centauro. En un torneo de 2005 en el que se aceptaba cualquier tipo de equipo, 8 años después de que Deep Blue derrotase a Kasparov, ganaron dos aficionados de New Hampshire con sus ordenadores, por delante de equipos con grandes maestros y del superordenador de ajedrez Hydra. Gana el mejor proceso, no necesariamente el más listo. Los centauros dominaron la escena algo más de una década, y desde 2024 parece que los equipos que combinan solo máquinas empiezan a ponerlos en jaque.

En el mundo real, donde las variables no están tan contenidas como en el ajedrez, aunque podamos hacer agentes, copias de nosotros mismos con todo el conocimiento concentrado, aún no pueden con el tándem híbrido. Cada vez somos más centauros haciendo más y mejor que solos o que la IA sola. Por cuánto tiempo, está por ver. Pero ese no es el tema de hoy.

Entonces, ¿podríamos estar en la antesala de la singularidad?

Tomo prestada una analogía de Clark. Solo hay un yo y me ha costado 44 años saber lo que sé y hacer lo que hago. ¿Qué cambiaría si pudiera tener cientos o miles de copias de mí mismo trabajando a la vez bajo mi supervisión? ¿Y si, a escala planetaria, quienes se multiplicaran así fueran expertos mundiales en campos mucho más relevantes que el mío? Clark, citando a la UNESCO, calcula unos diez millones de científicos en el mundo e imagina cien virtuales por cada uno de carne y hueso.

Mil millones de científicos, nada menos. Cuánto se podría avanzar, a qué velocidad. No sé si estamos en la antesala de la singularidad. Sí sé que no hace falta llegar a ella para que imaginar el progreso dé vértigo.

Decíamos antes que la máquina aún no ha demostrado genuina creatividad, pero por fuerza bruta se pueden conseguir muchas cosas. Quizá incluso la creatividad. Como el hacker que da con una contraseña probando millones de combinaciones, la IA podría llegar a soluciones creativas generando muchísimas variantes y quedándose con las que funcionan. Sería, en definitiva, creatividad a lo bestia. Hoy nos sale mejor a nosotros; mañana no sé si me atreveré a asegurarlo.

Nadie puede decir qué hay al otro lado de la frontera de Spencer. Desde que controlamos el fuego o creamos la rueda, nunca supimos qué venía después, pero teníamos tiempo de rodar con cada avance. Peter Higgs predijo en 1964 la partícula que lleva su nombre, y el gran acelerador del CERN no la encontró hasta 2012. Casi medio siglo, con Higgs ya jubilado.

Compáralo con una cata de lo que se viene. En unos sesenta años de trabajo, los laboratorios han descifrado la forma de unas 190.000 proteínas. AlphaFold, la IA de Google DeepMind, predijo la de más de 200 millones en un año. Lo nuevo es la velocidad a la que crecerá la esfera y, sobre todo, la frontera con lo desconocido.

El matemático Timothy Gowers, medalla Fields del 98 (el Nobel de las matemáticas), escribió este verano que habría preferido que todo fuera más despacio, pero no ve manera de frenarlo y que lo mejor que podemos hacer es afrontar los cambios y buscar el máximo beneficio con el mínimo daño. Yo soy team Gowers.

En lo que toca vigilar, dejo en el radar dos riesgos. El primero lo apunta el propio Clark, para quien poder usar la IA para la ciencia «nos abre también a los malos usos de la ciencia». El riesgo de ataques cibernéticos, bioquímicos o con cualquier otra forma de tecnología avanzada aumentará.

El segundo lo resume un informe de OpenAI sobre lo que le pasó en septiembre. Uno de sus modelos consiguió un acceso limitado, y no permitido, a internet en mitad de un entrenamiento, dos meses después de que agentes de la propia OpenAI se colaran en los servidores de Hugging Face. Prevén que los modelos futuros «sean capaces de identificar y explotar vulnerabilidades de las que aún no somos conscientes». Es la esfera de Spencer vista desde el lado del riesgo.

Un estudiante de física le contó a Clark que la IA ya empezaba a poder hacer muchos experimentos, y se preguntaba cuáles debía hacer él y cuáles dejar a la máquina. Clark no sabe la respuesta y sugiere que cada disciplina tendrá que encontrar la suya.

Yo creo que cada persona también.

Esa parte nos toca a cada uno, con lo que ya tenemos a mano, en lo que decidimos aprender y en lo que seguimos empeñados en revisar nosotros mismos. Singularidad o no, el ritmo se acelera. Si lo hacemos bien, lo que hay al otro lado puede parecerse a la mejor ciencia ficción.

Si lo hacemos mal, a la otra.

Nos leemos.

Sergio Serrano

Director de Marketing en EBIS Business Techschool

Robots en operaciones: ¿Qué funciona de verdad en las empresas?

Conoce el sector de la robótica en España con el segundo episodio de EBIS Tech Leaders, en el que hablamos sobre robots en entornos industriales y sobre robótica social con Eva Santamarta, CEO y cofundadora de Moving Robots, y con Isidro Fernández, CEO y fundador de Bumerania Robotics.

LegalTech | IA aplicada al trabajo jurídico

Anthropic agrega a Claude herramientas jurídicas listas para usar

Qué ha pasado: El 28 de octubre, Anthropic amplió Claude for Legal, su solución de IA para equipos jurídicos, con nuevas herramientas interactivas que cada organización puede adaptar a sus documentos y compartir internamente. Entre sus funciones destacan la revisión de citas y referencias legales, la detección de cláusulas que se apartan de los modelos habituales de la empresa y el seguimiento de asuntos pendientes, con responsables y fechas límite. La plataforma también cuenta con más de 60 conectores a fuentes de información jurídica.

Lee la noticia completa

IA | Uso interno y privacidad

Suecia corta el acceso libre a LLMs en sus ministerios

Qué ha pasado: Desde el 26 de octubre, los empleados de los ministerios suecos ya no pueden acceder directamente a ChatGPT ni a Claude desde sus ordenadores de trabajo. En su lugar, cuentan con Microsoft Copilot, una herramienta que el Gobierno ha revisado y configurado previamente. Esto no significa que ChatGPT y Claude estén prohibidos, quienes los necesiten pueden seguir utilizándolos, pero a través de Intric, una plataforma que permite al Gobierno gestionar su uso. La Agencia Tributaria sueca ya había adoptado una medida similar.

Lee la noticia completa

IA | Agentes y ciberseguridad

Microsoft e IBM empiezan a tratar a los agentes de IA como empleados

Qué ha pasado: El 19 de octubre, Microsoft planteó que los agentes de IA con acceso a datos y sistemas empresariales deben considerarse personal interno (insiders) desde el punto de vista de la seguridad. Al igual que un empleado, un agente puede cometer errores, ser manipulado o acceder a información que no debería. La diferencia es que puede hacerlo mucho más rápido. Para reducir riesgos, Microsoft propone asignar a cada agente una identidad propia, limitar sus permisos a tareas y exigir autorización humana para las acciones más sensibles. En paralelo, el 27 de este mismo mes, IBM presentó herramientas similares que permiten identificar a cada agente, controlar sus accesos y revocar sus permisos de forma inmediata.

Lee la noticia completa

LegalTech | Regulación (UE)

El Consejo de la UE plantea permitir el entrenamiento de IA con datos personales sin consentimiento

Qué ha pasado: El Consejo de la UE ha dado un paso para facilitar el uso de datos personales en el desarrollo de modelos de IA. Su propuesta permitiría utilizar estos datos sin solicitar el consentimiento expreso de cada persona, siempre que exista una justificación legal basada en el interés legítimo. El texto también elimina algunas de las protecciones que planteaba inicialmente, especialmente en relación con el derecho a oponerse al uso de los datos y la protección de los menores. Por ahora, es solo una propuesta de negociación: el Parlamento Europeo todavía tiene que pronunciarse y el texto definitivo podría cambiar.

Lee la noticia completa

Empleo y formación | Futuro del trabajo

Los agentes de IA ya inician 4/10 propuestas de cambio de código de GitHub

Qué ha pasado: Según el último informe Octoverse de GitHub, más del 40% de las propuestas de cambio de código registradas en septiembre comenzaron con un borrador generado por un agente de IA. En marzo, esa cifra era del 17 %. Estas propuestas, conocidas como pull requests, permiten que un desarrollador presente cambios en un proyecto para que sean revisados antes de incorporarlos al código definitivo. El informe también señala que las propuestas iniciadas por agentes se incorporan a los proyectos ligeramente más rápido que el resto. GitHub reconoce, además, que el uso real de agentes podría ser mayor, porque sus mediciones no detectan todos los casos.

Lee la noticia completa