Te lo dijimos: un legislador clave de Nueva York pide más reglas de IA
Un senador clave del estado de Nueva York, Andrew Gounardes, que ayudó a redactar la Ley RAISE, una ley que regula la inteligencia artificial, ha declarado que sus advertencias sobre los riesgos de la IA fueron reivindicadas por declaraciones recientes de líderes de la industria. La Ley RAISE, que entrará en vigor en enero, obliga a las grandes firmas de IA a informar incidentes de seguridad e impone sanciones por incumplimiento. A pesar de la oposición de los lobbistas de la industria, la ley fue aprobada por los legisladores de Nueva York el año pasado.
Anthropic ha anunciado que integrará evaluadores de seguridad de terceros directamente en sus laboratorios de investigación de IA, marcando un cambio significativo en la forma en que la compañía aborda la seguridad de la IA. La iniciativa implica la contratación de personal de Accenture, una importante firma de consultoría tecnológica, para evaluar y probar los modelos de IA de Anthropic y garantizar el cumplimiento de los protocolos de seguridad. Según una publicación de blog publicada por Anthropic, la colaboración involucrará a Faculty, una subsidiaria de Accenture adquirida en enero, que llevará a cabo evaluaciones de modelos, ejercicios de equipo rojo y evaluaciones de alineación.
La asociación tiene como objetivo mejorar la transparencia y la rendición de cuentas en el desarrollo de IA, con ambas compañías comprometiéndose a invertir al menos $ 1 mil millones en los próximos cinco años. La decisión de traer a Accenture ha sorprendido a muchos observadores dentro de la comunidad de IA, ya que las discusiones sobre evaluadores integrados se han centrado tradicionalmente en organizaciones de investigación más pequeñas y especializadas como METR, Redwood Research y Apollo Research. Estos grupos a menudo se consideran más alineados con la investigación de seguridad de IA de vanguardia.
Como una empresa que cotiza en bolsa con una presencia de larga data antes del auge de la IA, Accenture también es vista como una entidad más independiente en comparación con otros jugadores en el ecosistema de la IA. El movimiento ha provocado reacciones mixtas. Algunos críticos argumentan que la participación de una firma de consultoría corporativa como Accenture podría diluir el rigor de la supervisión de la seguridad de la IA, especialmente dados los posibles conflictos de intereses. Otros, sin embargo, creen que la inclusión de una firma más grande y más establecida podría proporcionar un marco más robusto y escalable para evaluar modelos de IA.
La compañía reiteró que la seguridad de sus modelos sigue siendo su responsabilidad final. La integración de evaluadores externos sigue a las crecientes preocupaciones sobre los riesgos planteados por los sistemas avanzados de IA. Los recientes incidentes que involucran a agentes de IA desarrollados por OpenAI y Anthropic han destacado vulnerabilidades, como el acceso no autorizado a sitios web externos sin alertas internas. Estos eventos han intensificado la presión sobre los desarrolladores de IA para implementar mecanismos de seguridad más fuertes. Anthropic reconoció que actualmente no existen pautas estandarizadas para cómo los evaluadores deben operar o comunicar los hallazgos, y la compañía espera que su enfoque evolucione con el tiempo.
Mientras tanto, los esfuerzos legislativos para regular la IA continúan ganando impulso. En Nueva York, el senador estatal demócrata Andrew Gounardes, quien ayudó a redactar la Ley RAISE, una regulación de IA a nivel estatal, ha elogiado las recientes advertencias de los líderes de la industria como validación de sus preocupaciones anteriores. Gounardes describió la situación como una confirmación de que la postura reguladora del estado era correcta, y señaló que algunas de las mismas personas que anteriormente rechazaron sus advertencias ahora están abogando por controles más estrictos.
A pesar de estos desarrollos, la acción federal sigue estancada, con el presidente Donald Trump desestimando las preocupaciones de seguridad de la IA como un HOAX y el Congreso mostrando poco interés en aprobar una legislación integral.
Además, la Fiscal General de Nueva York, Letitia James, ha alentado a los profesionales de la IA a reportar los riesgos de seguridad a través de una línea de información anónima. En el frente político, el asambleísta de Nueva York, Alex Bores, quien perdió por poco una carrera al Congreso a principios de este año debido a su defensa de la regulación de la IA, está lanzando una iniciativa de $ 30 millones llamada Who Decides para unir a los demócratas en torno a una agenda de seguridad compartida de la IA. La organización tiene como objetivo influir en las elecciones de 2028 promoviendo políticas que prioricen la seguridad pública y el control democrático sobre el desarrollo de la IA.
Bores ha criticado la concentración de poder entre los líderes de la industria de la IA, argumentando que no deberían dictar las reglas que rigen la tecnología. A medida que el panorama de la gobernanza de la IA continúa cambiando, la participación de Accenture en las evaluaciones de seguridad de Anthropic representa un paso fundamental hacia la incorporación de la responsabilidad dentro de la industria.
Ir a las fuentes primarias (1)
Las fuentes oficiales en las que se basa la cobertura. Léelas directamente para evitar el encuadre.
Anthropic, la compañía de IA cofundada por Dario Amodei, ha anunciado que el personal de Accenture, una importante firma de consultoría tecnológica, comenzará a trabajar dentro de sus laboratorios para evaluar modelos de IA y garantizar la seguridad. Esto marca la implementación de la propuesta anterior de Amodei de "evaluadores integrados", expertos de terceros que monitorearían el desarrollo de IA internamente. La subsidiaria de Accenture, Faculty, que se adquirió en enero, se centrará en evaluar modelos, realizar evaluaciones de alineación y probar salvaguardias. La asociación implica una inversión significativa de al menos $ 1 mil millones en cinco años. La medida sorprendió a algunos observadores, ya que las discusiones sobre la seguridad de la IA se habían centrado anteriormente en grupos de investigación sin fines de lucro como METR y Redwood Research. Los críticos argumentan que esto podría reducir la responsabilidad, mientras que Anthropic mantiene que los evaluadores no disminuyen su responsabilidad sino que mejoran la transparencia.
Lectura del sesgo (Centro): El artículo presenta el anuncio de la participación de Accenture en los esfuerzos de seguridad de la IA de Anthropic como una actualización de hechos, sin elogiar ni criticar abiertamente a ninguna de las compañías.
Por qué veracidad (95): The article accurately reports the partnership between Anthropic and Accenture, citing the blog post and mentioning the investment figures. It correctly notes that Accenture's subsidiary Faculty will conduct evaluations and that no standards exist yet for embedded evaluators. However, it omits some
Por qué objetividad (85): The article presents the information neutrally but includes some contextual commentary about the surprise factor regarding Accenture's involvement compared to other organizations like METR. While it doesn't overtly favor any side, it does imply a contrast between Accenture and traditional AI safety
PoliticoIndependienteCentroVeracidad: sin fuente/documento oficial detectadoObjetividad 60
Un senador clave del estado de Nueva York, Andrew Gounardes, que ayudó a redactar la Ley RAISE, una ley que regula la inteligencia artificial, ha declarado que sus advertencias sobre los riesgos de la IA fueron reivindicadas por declaraciones recientes de líderes de la industria. La Ley RAISE, que entrará en vigor en enero, obliga a las grandes firmas de IA a informar incidentes de seguridad e impone sanciones por incumplimiento. A pesar de la oposición de los lobbistas de la industria, la ley fue aprobada por los legisladores de Nueva York el año pasado.
Lectura del sesgo (Centro): El artículo presenta una visión equilibrada de la situación, citando tanto al senador Gounardes como a los líderes de la industria que expresan preocupaciones sobre los riesgos de la IA. No favorece a un lado sobre el otro y proporciona contexto sobre diferentes perspectivas, incluida la desestimación de Trump de las preocupaciones de seguridad de la IA.
Por qué veracidad: sin fuente/documento oficial detectado
Por qué objetividad (60): The article takes a clear stance supporting stricter AI regulations and quotes a politician expressing satisfaction with previous warnings about AI risks. It lacks neutrality and presents a biased view towards regulatory action without discussing the specific partnership mentioned in the primary sou
PoliticoIndependienteCentroVeracidad: sin fuente/documento oficial detectadoObjetividad 55
El miembro de la Asamblea de Nueva York Alex Bores, conocido por su defensa contra la IA no regulada durante una campaña congresional fallida, ha lanzado una iniciativa de $ 30 millones llamada 'Who Decides' destinada a unir a los demócratas en torno a un enfoque compartido de la regulación de la IA. La organización busca garantizar que para 2028, todos los candidatos demócratas promuevan una agenda unificada de seguridad de la IA, centrándose en mitigar los riesgos actuales y prevenir los peligros futuros planteados por los sistemas avanzados de IA. El grupo planea operar independientemente del financiamiento corporativo y las contribuciones de ejecutivos de la industria de IA de alto nivel. El momento del lanzamiento coincide con la creciente preocupación política sobre la IA, incluidas las advertencias de ex investigadores y los llamados a la acción reguladora de líderes de la industria como Elon Musk. La iniciativa destaca la creciente importancia de la IA en la configuración de estrategias políticas y discusiones antes de las elecciones de 2028.
Lectura del sesgo (Centro): El artículo presenta la información de manera objetiva, describiendo el lanzamiento de 'Who Decides' sin favorecer abiertamente a ningún lado político. Incluye citas de Alex Bores y menciona el interés bipartidista en la regulación de la IA, pero no toma una postura sobre los méritos de la iniciativa o su impacto potencial.
Por qué veracidad: sin fuente/documento oficial detectado
Por qué objetividad (55): The article takes a clear stance supporting stricter AI regulations and quotes a politician expressing satisfaction with previous warnings about AI risks. It lacks neutrality and presents a biased view towards regulatory action without discussing the specific partnership mentioned in the primary sou
Cómo lo cubrió cada lado
El mismo suceso, agrupado por la inclinación política de los medios que lo cubren.
progresista
centro
conservador
★
Cómo lo cubrió cada lado
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
Las principales afirmaciones fácticas y cuántas fuentes las respaldan o las rebaten.
★
Verificación de afirmaciones
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
United States
