Los hermanos Amodei, que crearon Claude y ahora plantan cara al Pentágono
Los cofundadores de Anthropic se niegan a dar acceso sin límites al Ejército estadounidense a su modelo de inteligencia artificial
En este mundo en el que a veces uno tiene la impresión de estar rodeado de villanos sacados de una película de serie B, también tiene que haber buenos. O, al menos, alguien dispuesto a parecerlo. Dos de ellos podrían ser Dario y Daniela Amodei (42 y 39 años respectivamente, ambos nacidos en San Francisco, EE UU), cofundadores de Anthropic, una de las start-ups mejor valoradas del planeta, y que en los últimos días se ha puesto en pie de guerra frente al ejército estadounidense, supuestamente para proteger los intereses de los ciudadanos.
La semana pasada, el Pentágono convocó a Dario, CEO de la empresa (Daniela la preside), a una reunión en Washington para intentar cerrar un acuerdo sobre las condiciones de uso de su tecnología por parte del Departamento de Defensa. El objetivo de Estados Unidos era que Anthropic eliminara las restricciones éticas que impone al uso de su modelo de IA, Claude, y permitiera al departamento militar utilizar esa tecnología para “todos los fines legalmente autorizados”.
El viernes vencía el plazo y Anthropic ha rechazado las demandas del Gobierno. La empresa afirma que no puede aceptar esas exigencias, ya que ello podría permitir aplicaciones que considera peligrosas: desde el uso de IA para la vigilancia masiva de ciudadanos hasta su integración en sistemas de armas completamente autónomas, en los que la IA tomaría decisiones letales sin supervisión humana.
Si la compañía mantiene su posición, podría enfrentarse a varias consecuencias. El contrato que Anthropic mantiene con el Departamento de Defensa, valorado en hasta 200 millones de dólares, podría ser cancelado. Además, podría ser designada como “riesgo para la cadena de suministro”, una calificación especialmente grave en el ámbito de la defensa, ya que puede excluir a la empresa de futuros contratos y colaboraciones gubernamentales.
Los hermanos Amodei son hijos de Elena Engel, que dirigió proyectos de renovación y construcción de bibliotecas en Berkeley y San Francisco. El padre, Riccardo Amodei, era un herrero de origen italiano. Murió en 2006 a causa de una enfermedad rara. Dario relató luego la frustración que vivió la familia por las deficiencias en el tratamiento.
El hermano varón fue un niño científico. Formó parte del equipo olímpico de física de EE UU en 2000. Estudió en Caltech (California) y después en Stanford, donde se licenció en Física. Continuó su formación en Princeton, donde se doctoró en Biofísica en 2011, centrando su investigación en la electrofisiología de circuitos neuronales. Luego hizo una estancia posdoctoral en la Escuela de Medicina de Stanford.
Daniela, casada con Holden Karnofsky, conocido por haber cofundado organizaciones filantrópicas, y con quien tiene un hijo, siguió un camino académico orientado a las ciencias sociales y las humanidades. Se graduó con honores en el instituto de secundaria Lowell y obtuvo una beca parcial por su talento musical como flautista. Estudió artes y música, y finalmente literatura inglesa en la Universidad de California Santa Cruz, donde se graduó summa cum laude. Durante su etapa universitaria recibió varios premios académicos y destacó como solista de flauta.
Daniela comenzó trabajando en proyectos de salud y política pública. Participó en iniciativas de desarrollo internacional vinculadas a la Universidad de Maryland y colaboró con la ONG Conservation Through Public Health en Uganda. También se implicó en la política de EE UU como directora adjunta de campaña en la candidatura al Congreso del demócrata Matt Cartwright en Pensilvania.
En 2013 dio el salto al sector tecnológico al incorporarse a Stripe, una start-up de tecnología financiera en rápido crecimiento. Comenzó como reclutadora técnica y más tarde asumió responsabilidades en gestión de riesgos y operaciones.
Su hermano entró en el sector de la inteligencia artificial antes que ella. Entre 2014 y 2015 trabajó como investigador en machine learning en el buscador chino Baidu. Más tarde se incorporó a Google, donde se especializó en modelos de aprendizaje profundo. En 2016 se unió a la entonces incipiente OpenAI. Allí llegó a ser vicepresidente de investigación y supervisó el desarrollo de modelos como GPT-2 y GPT-3.
En 2018, Daniela fichó por OpenAI como directora de equipos técnicos y posteriormente como vicepresidenta de seguridad y políticas. En 2020, tanto Dario como Daniela abandonaron la organización junto a varios colegas, con la intención de emprender un rumbo alternativo centrado en la seguridad de la inteligencia artificial. En 2021 cofundaron Anthropic. El proyecto nacía de la oposición a la nueva ruta que, según ellos, había tomado la compañía dirigida por Sam Altman, que habría pasado a priorizar los intereses comerciales por encima de la investigación rigurosa en seguridad y alineamiento de la inteligencia artificial.
A medida que Anthropic avanzaba con su asistente Claude, su capacidad para atraer capital ha crecido de forma exponencial. Este mes ha cerrado una ronda de financiación de 30.000 millones de dólares que sitúa la valoración de la compañía en 380.000 millones. En 2023 fueron incluidos en la lista Time 100 AI de las personas más influyentes del mundo en este ámbito, y Forbes estima que cada uno acumula una fortuna cercana a los 7.000 millones. Ambos se han mostrado críticos con la concentración extrema de riqueza y aseguran donar alrededor del 80% de sus ingresos.
Anthropic ha flexibilizado algunos de sus principios. Los Amodei han reconocido que su política de seguridad ha quedado desfasada y resulta ineficiente desde el punto de vista competitivo. Mantener restricciones unilaterales más estrictas que las de sus rivales no ha producido el efecto ejemplarizante que esperaban. Si el resto del sector acelera, desacelerar en solitario no cambia la dirección del mercado; simplemente deja atrás a quien decide frenar. La empresa también ha admitido que su enfoque previo ya no encaja con el clima político antirregulatorio de Washington.
Muchos de sus partidarios verán en este giro una claudicación. Pero, si algo han enseñado tantas películas –de serie B y de las otras– es que hacer el bien a veces implica mancharse, negociar, y traicionar los valores que uno ha defendido.
La adolescencia de la IA
Dario Amodei suele desarrollar su visión a través de extensas entradas en su blog personal. Hace poco publicó una titulada The adolescence of technology, donde plantea que la IA se encuentra en una fase comparable a la adolescencia humana.