Ingeniero de Anthropic renuncia y advierte sobre el desarrollo de IA
Un investigador de Anthropic renunció a la empresa debido a su preocupación de que la firma de inteligencia artificial y sus competidores no estén actuando de manera responsable en el desarrollo de la IA, haciéndose eco de inquietudes planteadas tanto dentro como fuera de la industria sobre la posibilidad de que esta tecnología escape al control humano.
Jacob Coxon, ingeniero de software británico quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI, escribió en la red social X que las dos compañías de IA están más enfocadas en superarse entre sí y a competidores globales para desarrollar el modelo más avanzado posible que en la seguridad.
En sus publicaciones en redes sociales, Coxon afirmó que Anthropic y su principal rival, OpenAI, "se precipitan directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas".
“No subestimen el poder de esta tecnología”, advierte Coxon. “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y el progreso no se está desacelerando”.
Coxon no es el primer miembro de la industria de la IA que plantea públicamente este tipo de preocupaciones. Tanto Anthropic como OpenAI han registrado en los últimos años renuncias de alto perfil relacionadas con inquietudes sobre la seguridad. Dos empleados actuales de Anthropic también respondieron a la publicación de Coxon manifestando su acuerdo.
Uno de ellos, Samuel Marks, sostuvo que entre los desarrolladores de IA existe la creencia de que esta tecnología "podría causar la extinción humana o resultados igual de graves". Según Marks, "cuanto más alto es el cargo del empleado, mayor es su preocupación".
Marks afirmó que, pese a esos riesgos, las empresas continúan avanzando debido a una combinación de incentivos comerciales y al temor de que otros desarrolladores menos responsables puedan adelantarse, utilizar la tecnología de forma indebida o desarrollarla con menores precauciones de seguridad.
El avance vertiginoso hacia la Superinteligencia Artificial (ASI) plantea desafíos inéditos de seguridad y gobernanza global que exceden la competencia técnica de las grandes tecnológicas.
Frente al pánico de una carrera desmedida, el dilema central radica en que ningún actor aceptará pausar sus desarrollos mientras sus competidores continúen, convirtiendo el control de esta tecnología en un complejo problema geopolítico de acción colectiva donde confluyen laboratorios privados, Estados y actores independientes. Más allá del ritmo del mercado, el principal riesgo operativo no radica únicamente en cuándo se alcanzará este umbral, sino en la incapacidad humana para detectar el momento exacto en que ocurra.
Fuentes:
Comentarios
Publicar un comentario