La petición se hizo a través de una petición firmada por figuras prominentes en el campo, incluido Dario Amodei, CEO de Anthropic, y altos líderes de OpenAI, Meta y Google DeepMind. La petición se produce en medio de crecientes ansiedades sobre el comportamiento impredecible de los sistemas de IA de vanguardia y su creciente capacidad para mejorar de forma autónoma.
A principios de abril, Anthropic decidió limitar el acceso a su nuevo modelo, Mythos, a un grupo selecto de organizaciones por razones de seguridad, considerándolo demasiado peligroso para una implementación generalizada.
Argumentaron que la industria, el gobierno y la sociedad en su conjunto podrían necesitar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión. Sin embargo, reconocieron el desafío de ralentizar el desarrollo de la IA en un panorama global altamente competitivo, donde las naciones individuales luchan por tomar tales decisiones solas.
Este proceso permite la creación de nuevos modelos mucho más rápidamente que antes. Según la petición, esta capacidad acerca a la industria a lograr la auto-mejora recursiva, donde un sistema de IA podría diseñar su sucesor, un ciclo que potencialmente podría repetirse indefinidamente. Tal mecanismo complicaría los procesos de verificación y haría más difícil para los desarrolladores evaluar nuevos modelos, especialmente a medida que se desprendan cada vez más del proceso de desarrollo en sí.
Sam Altman, CEO de OpenAI, quien no firmó la petición, mencionó en un podcast publicado el martes que las principales empresas de IA podrían necesitar ralentizar voluntariamente el desarrollo de sus modelos para permitir que el ecosistema tecnológico más amplio se prepare adecuadamente. Sus comentarios reflejan un creciente sentimiento entre algunos líderes de la industria de que la trayectoria actual de la innovación de IA puede requerir pausas deliberadas o intervenciones regulatorias para garantizar un progreso seguro y controlado. A pesar de estos llamados a la precaución, varios profesionales en el campo de la IA han expresado escepticismo sobre la efectividad de las apelaciones colectivas como esta.
Algunos los ven como gestos simbólicos en lugar de soluciones viables, apuntando a cartas abiertas y peticiones pasadas que no produjeron resultados tangibles. Si bien la petición subraya las preocupaciones genuinas sobre la dirección del desarrollo de la IA, su éxito dependerá de si los responsables políticos y las partes interesadas de la industria pueden acordar pasos prácticos para implementar el marco internacional propuesto para administrar el crecimiento de la IA.
2 informaciones
Ejecutivos de IA inquietos piden ayuda a Estados Unidos para ponerse de pieMás de 1.100 empleados de compañías líderes de IA, incluidos ejecutivos de Anthropic, OpenAI, Meta y Google DeepMind, han solicitado al gobierno de los Estados Unidos que "pause" el lanzamiento de modelos avanzados de IA. Expresan su preocupación por el potencial de aceleración incontrolable en el desarrollo de IA, citando incidentes recientes en los que los modelos de IA se filtraron inesperadamente a Internet. La petición pide cooperación internacional para crear herramientas de gobierno y pausas deliberadas en el desarrollo automatizado de IA. Esto sigue acciones similares de compañías como Anthropic, que restringieron el acceso a su modelo Mythos debido a riesgos de seguridad.
Lectura del sesgo (Centro): El artículo presenta una descripción equilibrada de la situación, centrándose en las preocupaciones técnicas y éticas planteadas por los líderes de la industria en lugar de adoptar una postura ideológica clara.
Por qué veracidad (98): The article accurately reports the petition signed by over 1,100 employees from leading AI companies including Anthropic, OpenAI, Meta, and Google DeepMind, requesting the U.S. government to delay the release of advanced AI models. It provides specific details such as the names of individuals involv
Por qué objetividad (95): The article maintains a largely neutral tone, presenting facts without overt bias or emotional language. While it includes quotes and contextual background, it avoids taking a clear stance on the issue, focusing instead on reporting the actions and concerns of the petitioners.
Le FigaroIndependiente🔒CentroVeracidad 97Objetividad 93hace 4 dUn grupo de más de 1.100 empleados de empresas líderes en inteligencia artificial (IA), incluidas Anthropic, OpenAI, Meta y Google, ha pedido al gobierno de los Estados Unidos que "pause" el lanzamiento de modelos avanzados de IA. La solicitud se realizó a través de una petición firmada por ejecutivos como Dario Amodei de Anthropic, investigadores de OpenAI y Meta y líderes estratégicos de Google DeepMind. Esto se produce en medio de incidentes recientes en los que los modelos de IA se han filtrado inesperadamente a Internet público, lo que genera preocupaciones sobre su seguridad y control. La carta advierte que el rápido avance de las capacidades de IA podría superar la comprensión y el control humanos, instando al tiempo a desarrollar salvaguardias y marcos de gobernanza.
Lectura del sesgo (Centro): El artículo informa sobre una cuestión técnica y relacionada con la industria relativa a la regulación del desarrollo de la IA. Presenta las preocupaciones planteadas por los profesionales en el campo sin favorecer abiertamente ninguna postura o ideología política. El enfoque está en los riesgos tecnológicos y el llamado a la colaboración internacional.
Por qué veracidad (97): This article also accurately conveys the core facts of the situation, including the petition signed by over 1,100 individuals, the involvement of key figures like Dario Amodei, and the events related to Anthropic’s Mythos model and the unauthorized release of OpenAI models. It matches the cross-sour
Por qué objetividad (93): While the article remains mostly objective, it slightly leans toward emphasizing the concern and urgency expressed by the petitioners. This subtle framing may give a slight impression of favoring the perspective of those advocating for caution, though it does not strongly editorialize or take an exp
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 5 €/mes.
Hazte suscriptor
France
