\n<\/p>\n
Sam Altman<\/strong>, el director ejecutivo de OpenAI<\/a>, la empresa creadora de ChatGPT, se\u00f1al\u00f3 que la poblaci\u00f3n deber\u00eda confiar m\u00e1s en las compa\u00f1\u00edas de inteligencia artificial para garantizar que esta tecnolog\u00eda sea segura<\/strong>, en medio de la creciente preocupaci\u00f3n p\u00fablica por sus riesgos.<\/p>\n \u201cEl mundo deber\u00eda confiar en que vamos a hacer lo correcto porque es lo correcto<\/strong> y porque comprendemos la magnitud de esto\u201d, afirm\u00f3 Altman durante una conferencia en San Francisco.<\/p>\n Altman reconoci\u00f3 que la preocupaci\u00f3n de la gente respecto a la inteligencia artificial<\/a> est\u00e1 justificada, dado que las capacidades de estas herramientas han avanzado con gran rapidez<\/strong>.<\/p>\n Los cr\u00edticos sostienen que no se puede confiar<\/strong> en que las empresas se autorregulen.<\/p>\n Entre quienes reclaman una mayor supervisi\u00f3n de la IA figuran personajes de ambos espectros ideol\u00f3gicos como el senador progresista Bernie Sanders y Steve Bannon<\/a>, exasesor y seguidor del presidente estadounidense Donald Trump.<\/p>\n El propio Trump ha criticado los llamados a imponer mayores salvaguardias a esta tecnolog\u00eda en r\u00e1pida evoluci\u00f3n, calificando de \u201cenga\u00f1o\u201d los temores sobre la seguridad de la IA<\/strong>.<\/p>\n Seg\u00fan Trump<\/a>, las \u00fanicas \u201cbarandillas de protecci\u00f3n\u201d necesarias para la inteligencia artificial son un presidente \u201cfuerte e inteligente\u201d.<\/p>\n Las declaraciones de Altman se produjeron durante una intervenci\u00f3n en la conferencia anual organizada por la empresa de software<\/em> Salesforce.<\/p>\n \u201cNo hace falta tanta imaginaci\u00f3n como antes para imaginar c\u00f3mo esto podr\u00eda salir mal\u201d, reconoci\u00f3 y admiti\u00f3: \u201cCreo que el mundo tiene raz\u00f3n al tener miedo\u201d<\/strong>.<\/p>\n Los propios l\u00edderes de la industria de la IA han admitido que podr\u00eda resultar dif\u00edcil regular una tecnolog\u00eda que cambia a tal velocidad.<\/p>\n En una entrevista concedida a Axios <\/em>y publicada el 3 de septiembre, Altman se\u00f1al\u00f3 que esperaba que el Congreso estableciera un \u201cmarco b\u00e1sico\u201d para la IA<\/strong> avanzada tras su comparecencia de 2023, pero eso a\u00fan no ha ocurrido.<\/p>\n Asimismo, sugiri\u00f3 que los legisladores han tenido dificultades para seguir <\/strong>el ritmo de la tecnolog\u00eda<\/strong><\/a> y regular sin \u201cralentizar la innovaci\u00f3n\u201d.<\/p>\n Es poco probable que el Congreso de Estados Unidos apruebe en el corto plazo una nueva legislaci\u00f3n sobre seguridad en IA<\/strong>, a pesar de que los legisladores regresaron de su receso de verano el lunes.<\/p>\n No existe consenso dentro de ninguno de los dos grandes partidos estadounidenses sobre c\u00f3mo deber\u00eda llevarse a cabo una regulaci\u00f3n, y adem\u00e1s la C\u00e1mara de Representantes volver\u00e1 a entrar en receso al final de esta semana de cara a las elecciones legislativas de mediados de mandato de principios de noviembre.<\/p>\n Las declaraciones de Altman del martes fueron las primeras que realiz\u00f3 p\u00fablicamente desde que se viralizara la semana pasada una publicaci\u00f3n de un investigador que abandon\u00f3 la empresa de IA Anthropic<\/a>.<\/p>\n El investigador afirm\u00f3 que la inteligencia artificial podr\u00eda \u201cmatar a todos los seres humanos\u201d<\/strong> antes de que termine la d\u00e9cada<\/strong> si no se establecen controles.<\/p>\n Un peque\u00f1o grupo de ejecutivos y expertos del sector tambi\u00e9n respondi\u00f3 indicando que compart\u00eda esa evaluaci\u00f3n, aunque sin explicar c\u00f3mo hab\u00edan llegado a esa conclusi\u00f3n ni de qu\u00e9 manera la IA podr\u00eda llegar a provocar algo semejante.<\/p>\n Tras las declaraciones de Altman, Mark Zuckerberg escribi\u00f3 en X<\/a> que todas las empresas de inteligencia artificial tienen tanto la capacidad como los incentivos necesarios para \u201cadoptar sus propias medidas\u201d en materia de seguridad.<\/p>\n \u201cLos laboratorios afrontan una responsabilidad significativa si sus modelos causan da\u00f1os<\/strong>, por lo que tambi\u00e9n tienen un fuerte incentivo para evitarlo\u201d, a\u00f1adi\u00f3.<\/p>\n Seg\u00fan el director ejecutivo de Meta<\/a>, \u201ccualquier laboratorio que no se centre en la alineaci\u00f3n quedar\u00e1 rezagado\u201d.<\/p>\n La alineaci\u00f3n es un campo de investigaci\u00f3n que busca incorporar a la IA principios e ideas \u00e9ticas humanas<\/strong>. En otras palabras, pretende mantenerla alineada con los valores de las personas.<\/p>\n Algunas figuras pol\u00edticas han rechazado la idea de que las empresas de IA sean las responsables de autorregularse.<\/p>\n Bernie Sanders afirm\u00f3 que las decisiones sobre inteligencia artificial han quedado en manos de \u201cun pu\u00f1ado de las personas m\u00e1s ricas del mundo\u201d<\/strong>, mientras que Steve Bannon sostuvo que el p\u00fablico no puede confiar en que los oligarcas tecnol\u00f3gicos se regulen a s\u00ed mismos.<\/p>\n Por su parte, Jensen Huang, director ejecutivo de Nvidia<\/a>, declar\u00f3 en la misma conferencia el martes que deber\u00edan ser las empresas de IA quienes decidan si se lanzan nuevas versiones de la tecnolog\u00eda y no agentes externos.<\/p>\n \u201cNo necesitamos nuevas leyes ni regulaciones\u201d<\/strong>, afirm\u00f3, a\u00f1adiendo que no deber\u00eda plantearse una \u201cfalsa disyuntiva\u201d entre la velocidad de la innovaci\u00f3n y la seguridad de los productos de IA.<\/p>\n Nvidia es actualmente la empresa m\u00e1s valiosa del mundo<\/strong> por capitalizaci\u00f3n burs\u00e1til, impulsada por el enorme crecimiento de la demanda de su hardware<\/em>.<\/p>\n Huang tambi\u00e9n argument\u00f3 que la seguridad es un problema de ingenier\u00eda<\/strong> y que las compa\u00f1\u00edas deber\u00edan hacer una pausa si pierden la confianza en un producto.<\/p>\n Las recientes advertencias surgidas desde dentro de la propia industria han intensificado el escrutinio sobre el desarrollo de la inteligencia artificial, lo que llev\u00f3 al director ejecutivo de Anthropic, Dario Amodei, a pedir una desaceleraci\u00f3n del ritmo de desarrollo de la IA<\/a> y a instar a los gobiernos a regular el sector.<\/p>\n Su publicaci\u00f3n fue respaldada por Altman<\/strong>; el cofundador de Google DeepMind, Demis Hassabis, y Elon Musk.<\/p>\n Sin embargo, para el martes m\u00e1s l\u00edderes de la industria comenzaban a manifestar su apoyo a la autorregulaci\u00f3n en lugar de una mayor intervenci\u00f3n gubernamental. Altman afirm\u00f3 que las empresas de IA son capaces de regularse por s\u00ed mismas<\/strong>.<\/p>\n \u201cLo haremos bien\u201d, asegur\u00f3. \u201cSi no logramos mantener la alineaci\u00f3n y la seguridad por delante de las capacidades de esta tecnolog\u00eda, entonces es en ese momento en que debemos reducir el ritmo o detenernos<\/strong>\u201d, a\u00f1adi\u00f3.<\/p>\n Pero Yoshua Bengio, uno de los pioneros de la inteligencia artificial<\/a> moderna, escribi\u00f3 en la red social X que se necesitan \u201cesfuerzos ambiciosos fuera del sector con \u00e1nimo de lucro\u201d<\/strong> para \u201cevitar los peores riesgos de la IA\u201d.<\/p>\n Algunas voces de la industria han argumentado que el resurgimiento de los temores sobre la IA ha sido exagerado y que se est\u00e1 utilizando para generar expectativas y publicidad en torno al sector<\/strong>.<\/p>\n Durante la conferencia, Altman se dirigi\u00f3 a una audiencia compuesta por cientos de empresarios y les dijo que deber\u00edan utilizar herramientas de IA para apoyar su trabajo, pero que tambi\u00e9n las necesitaban para proteger sus negocios frente a posibles ciberataques impulsados por inteligencia artificial.<\/p>\n La idea de dejar que los ejecutivos de la IA se regulen completamente a s\u00ed mismos ha sido considerada por algunos miembros de la industria como una mala propuesta<\/strong>.<\/p>\n Jack Clark, ejecutivo y cofundador de Anthropic, le dijo a la BBC que \u201cdejar que la Inteligencia Artificial se convierta en una industria totalmente no regulada, equivale a lanzar los dados frente a riesgos inmensos<\/strong>\u201d.<\/p>\n Patrick Hillman, director de operaciones de Logical Intelligence, organizaci\u00f3n presidida por Yann LeCun, una de las figuras m\u00e1s influyentes del sector, se\u00f1al\u00f3 el martes la escasa confianza que la ciudadan\u00eda deposita <\/strong>en las empresas tecnol\u00f3gicas cuando afirman actuar en beneficio del inter\u00e9s p\u00fablico.<\/p>\n \u201cLa \u00fanica instituci\u00f3n en la que los estadounidenses podr\u00edan confiar menos hoy en d\u00eda que en Washington es Silicon Valley<\/a>. He trabajado y vivido en ambos lugares, y puedo asegurar que ambos se han ganado ese escepticismo<\/strong>\u201d, se\u00f1al\u00f3 Hillman.<\/p>\n \u201cSi creen que lo que est\u00e1n construyendo es peligroso, que nos demuestren qu\u00e9 est\u00e1n dispuestos a dejar de hacer<\/strong>\u201d, a\u00f1adi\u00f3.<\/p>\nA alta velocidad<\/span><\/h2>\n<\/p>\n
\u00bfAlinearse con los humanos?<\/span><\/h2>\n<\/p>\n
\u201cLa autorregulaci\u00f3n es el camino\u201d<\/span><\/h2>\n<\/p>\n
Buscando acuerdos<\/span><\/h2>\n<\/p>\n