\n<\/p>\n
Anthropic revel\u00f3 hoy un informe que muestra <\/strong>que su chatbot Claude est\u00e1 cerca de construir a su propio sucesor<\/a> sin intervenci\u00f3n humana. El documento indica que Claude se encarga de casi un tercio de las tareas de investigaci\u00f3n y desarrollo de la compa\u00f1ia. En enero de este a\u00f1o, ese porcentaje era cero.<\/p>\n \u201cEs importante compartir estas m\u00e9tricas para entender cu\u00e1n cerca est\u00e1 el mundo de alcanzar un modelo que construya a su sucesor de manera totalmente aut\u00f3noma\u201d, sostiene el documento<\/a>.<\/p>\n \u201cLa aceleraci\u00f3n en la construcci\u00f3n de modelos aut\u00f3nomos puede ser desafiante o dif\u00edcil de controlar para los humanos\u201d, a\u00f1ade. Y distingue entre los \u201cpa\u00edses democr\u00e1ticos\u201d en los que esa carrera por la Inteligencia General Artificial puede \u201cser beneficiosa\u201d y en los que eso no ocurre.<\/p>\n El CEO de Anthropic Dario Amodei<\/strong> hab\u00eda solicitado a las principales empresas de IA que coordinaran una desaceleraci\u00f3n en el desarrollo de la tecnolog\u00eda para enfocarse puntualmente en medidas de seguridad en torno a la IA<\/strong>.<\/p>\n Seg\u00fan difundi\u00f3 The Washington Post<\/em><\/a>, la mayor\u00eda de los l\u00edderes de las empresas rivales respaldaron la idea. Pero, entre los cr\u00edticos se ubic\u00f3 nada menos que el presidente de Estados Unidos, Donald Trump<\/strong>.<\/p>\n Sobre la contribuci\u00f3n de Claude en la investigaci\u00f3n y el desarrollo de nuevos modelos de IA de Anthropic, la empresa brind\u00f3 precisiones <\/strong>y sostuvo que es importante difundir los datos para reducir la brecha entre lo que se sabe \u201cpuertas adentro\u201d y lo que la sociedad sabe. <\/p>\n Claude<\/strong> es un asistente virtual y una familia de modelos de inteligencia artificial conversacional desarrollado por la empresa Anthropic. Funciona de manera similar a otros modelos como Chat GPT<\/strong>, permiti\u00e9ndote conversar, redactar textos, analizar documentos, programar y resolver problemas complejos usando lenguaje natural.<\/p>\n Por otro lado, la compa\u00f1\u00eda norteamericana reconoci\u00f3 que utiliz\u00f3 una versi\u00f3n de Claude para medir su trabajo en I+D mediante un sistema desarrollado por una empresa externa, previo a que sus propios empleados puedan revisar las conclusiones<\/strong>. <\/p>\n Asimismo, Anthropic afirm\u00f3 que trabaja con 30.000 \u201cagentes\u201d de IA<\/strong> para impulsar las tareas de ingenier\u00eda, desarrollo e investigaci\u00f3n. Adem\u00e1s, remarc\u00f3 que el 6% de su capacidad inform\u00e1tica se concentra en trabajos de seguridad.<\/p>\n Este mi\u00e9rcoles, el director de inteligencia artificial de Microsoft, Mustafa Suleyman<\/strong>, hab\u00eda cuestionado el modo en que Anthropic entrena a Claude y advirti\u00f3 que introducir conceptos vinculados con la conciencia, el bienestar y la autonom\u00eda<\/strong> podr\u00eda tener un \u201cimpacto desastroso en el bienestar de la humanidad\u201d<\/a>. A la vez, reconoci\u00f3 la \u201cseriedad y buena fe\u201d<\/strong> de la compa\u00f1\u00eda rival y de Amodei.<\/p>\n El eje de la cr\u00edtica es la posibilidad de que Claude aprenda a describirse como una entidad que \u201cpuede ser consciente<\/strong>\u201d o que merece consideraci\u00f3n moral e independencia. Para Suleyman, ese tipo de entrenamiento no demuestra que una IA tenga sentimientos o voluntad propia: solo hace que el sistema produzca respuestas en esa direcci\u00f3n<\/strong>.<\/p>\n Como corolario, Anthropic tambi\u00e9n anticip\u00f3 que impulsa diversos tipos de sistemas de monitoreo internos y aut\u00f3nomos que pueden alertar sobre actividades sospechosas para que sean revisadas por un ser humano<\/strong>.<\/p>\n