Se fuga parte del código fuente de Claude | cortesía de la imagen welivesecurity.
Bueno, antes que nada hay que aclarar que el título de este artículo no pretende ser clickbait, si se ha filtrado el código fuente de Claude (la Inteligencia Artificial de Anthropic) pero no es el modelo completo, sino de una herramienta interna que combinada con otras más constituyen esta IA. Sin embargo aunque no es la IA completa, si puede dar buenas pistas de como funciona esta y "tomar prestado" mucho del código que se usa para implementarla, pero vayamos por partes para entenderlo todo.
¿Qué sucedió?
Claude es la inteligencia artificial desarrollado por la empresa Anthropic, esta compite fuertemente por el gusto del público junto a Chatgpt, Gemini y otras IA en una carrera donde no hay tregua pues hay muchísimo dinero de por medio sin que ninguna esté generando pasta realmente (hay quien dice que la IA es en realidad una gran burbuja que explotará en cualquier momento). Pero como dice el dicho "mientras son peras o son manzanas" nadie quiere quedarse atrás y ninguna deja de lanzar nuevas versiones tratando de conquistar al público.
Por error humano Anthropic incluyó por error un módulo en el paquete oficial para distribución a los desarrolladores conteniendo el código fuente completo de la herramienta conformado por cerca de 1,900 archivos y más de 512,000 líneas de código, o sea, Anthropic "regaló" el código fuente a quien hiciera uso de herramientas Claude mediante programación.
Chaofan Shou (un agradecimiento a Hipertextual por la nota), investigador de seguridad de Solayer Labs alertó sobre el descubrimiento, pero ya era tarde: a toda prisa el código fuente de esta utilería comenzó a publicarse en diversos sitios web y aunque Anthropic ha enviado más de 8,000 solicitudes de retirada de contenido a GitHub es probable que este código se replique por otros sitios donde no hay mucha oportunidad de retiro.
Implicaciones de la fuga de código fuente de Claude:
Aunque no es código fuente completo de Claude, sino de una utilería, si es código que se relaciona con la IA y esto puede ser un regalo caído del cielo para competidores y hackers que van a estudiarlo a profundidad buscando vulnerabilidades para explotarlas (por ejemplo el caso hace poco tiempo donde un hacker solo usando Claude - y en menor grado Chatgpt - logró robar información de instituciones gubernamentales mexicanas solo a base de prompts que engañaron a la IA).
Esto me recuerda al año 2020 donde también fue filtrado el código fuente de Windows XP y NT 3.5, es verdad que ese código no puede usarse tal cual por los competidores sin arriesgarse a demandas millonarias. Sin embargo eso no quiere decir que no pueda estudiarse y mediante ingeniería inversa crear algo nuevo, sin ser el mismo código pero manteniendo la funcionalidad.
En su momento se especuló que Reactos y Wine se beneficiarían de esto, no sabemos si llegó a ser aprovechado o no, en todo caso tendría que ser reescrito totalmente para no meterse en problemas con Microsoft (recomiendo leer estos artículos al respecto: "Implicaciones del filtrado del código fuente de Windows XP en proyectos libres (opinión)" y "Aclarando un poco si "Windows puede ser libre" ahora que se ha filtrado su código fuente (NT 3.5)"). Pues lo mismo aplica para este código fugado, ya hay quien lo ha reescrito a otros lenguajes (posiblemente usando IA por la velocidad que se hizo la transición) para que no resulte tan sencillo de borrar pues ya se trata de una pieza "distinta" a la original.
Esto quiere decir que, si no llega a ser borrado porque ya no es el código original, esto podría ser tomado sin problemas por competidores (digamos Chatgpt o cualquier otro) y adaptar ese código a su IA, o bien, alguien crear alguna IA nueva con partes tomadas "prestadas" de Claude.
Otra implicación es que se han revelado herramientas en las que está trabajando Anthropic sin que estas hubieran sido reveladas al público aún, lo que puede llevar a que competidores se anticipen creando herramientas similares y lanzandolas antes que la propia empresa. Un duro golpe para Anthropic.
Conclusiones:
En el mundo tecnológico los errores suelen pagarse caro, por error humano se puso al público información valorada en millones de dólares que, a no ser pueda ser borrada totalmente (algo bastante difícil) entonces le ha dado a sus competidores un regalo por el que estarán eternamente agradecidos. Anthropic y cualquier empresa tech debe reforzar aún más sus políticas y procedimientos para evitar que algo así se repita, ahora resta ver el impacto de esta filtración en el corto y largo plazo.
Un agradecimiento por la lectura de este artículo, si les ha agrado no duden en dejar una pequeña propina para este autor, mil gracias de antemano por su apoyo.
