United StatesAnthropic, una compañía de investigación de inteligencia artificial, ha emitido una advertencia de que su tecnología podría representar amenazas existenciales si se usa mal. Para abordar estas preocupaciones, la compañía está contratando activamente a expertos en varias áreas de alto riesgo como productos químicos, explosivos, armas nucleares, estafas financieras y delitos cibernéticos. Estas funciones incluyen posiciones como 'Analista de cumplimiento centrado en daños radiológicos y nucleares', que tienen como objetivo evitar que la IA se use para fines dañinos. Anthropic enfatiza que garantizar la seguridad de la IA es fundamental para el desarrollo responsable y destaca la importancia de contratar especialistas que entiendan estos riesgos. El CEO de la compañía, Dario Amodei, ha expresado previamente su preocupación por el potencial de ataques biológicos y ha criticado al ejército estadounidense por considerar el uso de la tecnología de Anthropic en vigilancia y armas autónomas. Esta tendencia refleja una tendencia de seguridad más amplia en la que las empresas privadas están tomando la iniciativa en el desarrollo de medidas integrales para la IA debido a la falta de regulación gubernamental.
Lectura del sesgo (Centro): El artículo presenta una visión equilibrada de los esfuerzos de Anthropic para garantizar la seguridad de la IA, destacando tanto las medidas proactivas de la compañía como las críticas que enfrenta con respecto a sus predicciones del día del juicio final.
