United StatesAnthropic, la compañía de IA cofundada por Dario Amodei, ha anunciado que el personal de Accenture, una importante firma de consultoría tecnológica, comenzará a trabajar dentro de sus laboratorios para evaluar modelos de IA y garantizar la seguridad. Esto marca la implementación de la propuesta anterior de Amodei de "evaluadores integrados", expertos de terceros que monitorearían el desarrollo de IA internamente. La subsidiaria de Accenture, Faculty, que se adquirió en enero, se centrará en evaluar modelos, realizar evaluaciones de alineación y probar salvaguardias. La asociación implica una inversión significativa de al menos $ 1 mil millones en cinco años. La medida sorprendió a algunos observadores, ya que las discusiones sobre la seguridad de la IA se habían centrado anteriormente en grupos de investigación sin fines de lucro como METR y Redwood Research. Los críticos argumentan que esto podría reducir la responsabilidad, mientras que Anthropic mantiene que los evaluadores no disminuyen su responsabilidad sino que mejoran la transparencia.
Lectura del sesgo (Centro): El artículo presenta el anuncio de la participación de Accenture en los esfuerzos de seguridad de la IA de Anthropic como una actualización de hechos, sin elogiar ni criticar abiertamente a ninguna de las compañías.
