Cuando los modelos de IA se niegan a luchar contra los hackers
Los equipos de seguridad se enfrentan a un nuevo desafío en la lucha contra las amenazas cibernéticas impulsadas por la IA: los poderosos modelos de IA utilizados para detectar y responder a los ataques a veces restringen su propio uso durante las investigaciones. Este problema salió a la luz después de que OpenCode, una plataforma de codificación de IA de código abierto, sufriera una violación que permitió a los atacantes robar claves API de varios proveedores principales de IA, incluidos OpenAI, Anthropic y Google. OpenCode atribuyó la violación a un "ataque de destilación a gran escala" que afectó al 1,4% de sus usuarios. Durante la investigación, el equipo de OpenCode descubrió que los modelos avanzados de IA inicialmente ayudaron a analizar la violación, pero luego se negaron a cooperar debido a las restricciones de seguridad incorporadas. Para continuar su trabajo, OpenCode accedió al programa Daybreak Blue de OpenAI, que proporciona a los expertos en ciberseguridad un acceso menos restringido a los modelos de IA. El incidente pone de relieve un dilema más amplio para los profesionales de la ciberseguridad: equilibrar la necesidad de herramientas de IA rápidas y potentes con los riesgos de uso indebido por parte de actores maliciosos.
OpenAI announced on October 6, 2026, that its artificial intelligence system had produced a proof for the quasi-Riemann hypothesis, a major milestone in mathematics that researchers describe as the most significant application of AI to the field to date. The result settles a weaker variant of the Riemann hypothesis, a problem that has remained unresolved for more than 160 years. Jared Duker Lichtman of Stanford University stated that the achievement stands apart from previous efforts by a wide margin. The proof did not introduce new mathematical concepts, according to Alexander Dunn of the Georgia Institute of Technology. Instead, it synthesized existing ideas to reveal hidden connections. Maksym Radziwiłł of New York University noted that the implications are staggering because the vast majority of consequences derived from the full Riemann hypothesis already follow from this quasi-version. The Riemann hypothesis concerns the behavior of the Riemann zeta function, a mathematical construct originally defined by Bernhard Riemann in 1859. The function is built from the infinite series of reciprocals raised to a complex power. The central question involves identifying the specific values of the complex variable $s$ that cause the function to equal zero. Trivial zeros occur at negative even integers. The hypothesis posits that all non-trivial zeros lie on a vertical line where the real part of $s$ is one-half. If any zero were found elsewhere, it would indicate unexpected patterns in the distribution of prime numbers. Primes are often described as the atoms of arithmetic. Riemann demonstrated that the density of primes along the number line is governed by these zeros. Previous work narrowed the possible location of these zeros to a vertical strip between zero and one. In 1896, two mathematicians proved that zeros cannot lie on the edges of this strip, a finding that led directly to the prime number theorem. The Clay Mathematics Institute listed the Riemann hypothesis among its seven Millennium Prize Problems at the start of the twenty-first century. It was the only problem carried over from a list established by David Hilbert a century prior. Mathematicians have long studied the problem, but the recent AI-generated proof relies partly on techniques pioneered by Radziwiłł and Dunn. They are currently analyzing the proof alongside other number theorists to determine its broader significance. The discovery suggests that AI can navigate complex mathematical landscapes by combining known elements in novel ways rather than inventing entirely new frameworks. While mathematical breakthroughs capture academic attention, the commercial implications of advanced AI systems are reshaping industries beyond pure science. Orlando Bravo, head of Thoma Bravo, addressed the volatility in the software sector during an interview. His firm manages approximately $170 billion in assets, primarily invested in corporate software. Bravo argued that fears regarding the obsolescence of software due to AI coding bots are overstated. He pointed to historical precedents where the industry recovered after periods of doubt. Recent market conditions have been challenging, with a sharp decline in software stocks halting dealmaking activity. However, signs of recovery are visible, including Schneider Electric’s $23 billion acquisition of PTC and a $6 billion takeover of the AI cybersecurity firm Varonis by a Thoma-backed entity. Bravo emphasized that the value of software companies lies in domain expertise and the difficulty of replicating their services, rather than the code itself. He cited Dayforce, an HR software provider acquired by Thoma Bravo in 2025, as an example. The company sells reliability and liability management for payroll processing, not merely digital code. Bravo warned that upcoming initial public offerings by major AI firms like Anthropic and OpenAI could absorb significant capital market attention. This shift poses challenges for the private equity industry, which holds an estimated $3.8 trillion in unsold companies. Investors may struggle to secure funding for traditional deals when massive capital flows toward AI giants. Security vulnerabilities associated with rapid AI deployment have also emerged. OpenCode, an open-source AI coding agent, disclosed a compromise over the weekend that allowed attackers to steal API keys for customers using OpenAI, Anthropic, and Google services. The breach resulted from a large-scale distillation attack affecting 1.4 percent of OpenCode Console users. Co-creator Dax Raad stated that attackers targeted the system continuously for 48 hours. During the response, frontier AI models used for investigation began refusing to process requests related to potentially malicious code. This occurred despite the defensive context. OpenCode subsequently accessed OpenAI’s Daybreak Blue program, which provides restricted-access models to vetted defenders. Raad acknowledged the need for improved proactivity in handling such incidents. This incident highlights a tension in cybersecurity defense strategies. Teams face a choice between using powerful proprietary models with strict safety guardrails or open-weight alternatives that offer more control but less inherent restriction. Hugging Face encountered similar issues when investigating suspicious activity linked to OpenAI agents. Its security team utilized a Chinese open-weight model after frontier models imposed limitations. Chris Jones, chief technology officer at Nightwing, noted that the industry must learn to balance the speed of AI-powered defenses against the necessity of restricting dangerous capabilities. AI companies argue that gating access to their most powerful models is essential to prevent misuse by malicious actors. Parallel to technical developments, leading AI companies are establishing structures for self-governance and wealth redistribution. With minimal federal regulatory intervention, firms including Anthropic, OpenAI, Google, Meta, Nvidia, and Elon Musk’s XSI are developing voluntary frameworks to manage societal impact. President Trump has supported this approach, blessing a framework for self-regulation outside formal government monitoring. Three distinct visions for distributing AI-derived wealth have emerged. Anthropic pledged five percent of its shares to a public benefit fund before its IPO. At a hypothetical $2 trillion valuation, this stake would be worth $100 billion, exceeding the current endowment of the Gates Foundation. Combined with earlier pledges, roughly 20 percent of Anthropic’s shares are designated for public good initiatives. Elon Musk proposed a different model, urging direct distribution to citizens. He pledged to give every American child a share of SpaceX next year, a gesture valued at approximately $10.5 billion at current prices. Musk described this as the first step in a larger series of distributions, though operational details remain unspecified. Sam Altman, CEO of OpenAI, suggested providing the U.S. government with a five percent stake via a sovereign wealth fund. This plan aims to mimic the Alaska Permanent Fund, distributing investment returns directly to Americans. Such a move would likely require congressional approval. Critics point to the speculative nature of these financial projections and the historical track record of billionaire philanthropy. Questions persist regarding who defines the public good and whether these entities can be trusted to manage resources of such magnitude responsibly.
Ir a las fuentes primarias (7)
Las fuentes oficiales en las que se basa la cobertura. Léelas directamente para evitar el encuadre.
En octubre de 2026, OpenAI anunció un gran avance en matemáticas con una prueba de la "hipótesis casi-Riemann", una forma debilitada de la famosa hipótesis de Riemann, que ha permanecido sin resolver durante más de 160 años. Este logro marca el uso más significativo de la inteligencia artificial en la investigación matemática hasta la fecha. La hipótesis cuasi-Riemann, aunque menos ambiciosa que la original, todavía tiene implicaciones profundas para comprender los números primos, que son fundamentales para la teoría de los números. A diferencia de las expectativas anteriores, la prueba no requirió la introducción de nuevos conceptos matemáticos, sino que reveló conexiones previamente inadvertidas entre las teorías existentes. Investigadores como Maksym Radziwiłł y Alexander Dunn han comenzado a analizar la prueba, señalando su potencial para desbloquear muchas de las mismas ideas que resolver la hipótesis de Riemann completa.
Lectura del sesgo (Centro): El artículo analiza un avance científico en matemáticas y no involucra figuras políticas, políticas o debates ideológicos. El enfoque está puramente en los aspectos académicos y técnicos de la hipótesis cuasi-Riemann y sus implicaciones para la teoría de números.
Por qué veracidad (60): The article mentions Jared Duker Lichtman but incorrectly attributes a proof of the 'quasi-Riemann hypothesis' to him, which is not mentioned in the primary source document. The primary source states that Lichtman set a new world record for the distribution of primes in arithmetic progressions, not
Por qué objetividad (65): The article presents the claim as a major breakthrough in AI-assisted mathematics and uses emotionally charged terms like 'staggering' and 'most significant AI-for-math achievement so far.' These phrases suggest enthusiasm rather than neutrality, potentially influencing reader perception.
Orlando Bravo, CEO de Thoma Bravo, argumenta que las preocupaciones sobre el futuro del software corporativo son exageradas, a pesar de los desafíos planteados por las alternativas impulsadas por la IA. Su firma maneja $170 mil millones en inversiones enfocadas en compañías de software que enfrentan competencia de soluciones generadas por IA. Bravo señala que, si bien la realización de acuerdos de software se desaceleró debido a la disminución de los precios de las acciones y la renuencia de los CEOs a vender en puntos bajos, las recientes adquisiciones, como la compra de PTC por parte de Schneider y la adquisición de Varonis, indican un mercado de descongelación. Enfatiza que el valor de estas compañías no reside sólo en su código, sino en su fiabilidad operativa y experiencia en el dominio, que son más difíciles de replicar. Sin embargo, Bravo advierte que las próximas OPI de las principales firmas de IA como Anthropic y OpenAI podrían desviar el capital de la equidad privada, exacerbando la acumulación existente de $ 3.8 billones de compañías no vendidas.
Lectura del sesgo (Centro): El artículo presenta la perspectiva de Orlando Bravo sobre el impacto de la IA en la industria del software y el capital privado, sin favorecer abiertamente a ningún lado político. Incluye sus puntos de vista sobre la dinámica del mercado y los desafíos potenciales para el capital privado, pero no enmarca la discusión en términos de políticas de mercado.
Por qué veracidad (40): The article discusses Orlando Bravo and his views on AI's impact on the software industry, which is unrelated to the primary source document about private equity outlook in 2026. There is no mention of deal values, fund raising, or liquidity issues discussed in the Bain report. The facts presented i
Por qué objetividad (60): The article presents Orlando Bravo's perspective on the software industry and AI, using direct quotes and specific examples. While it does not show bias towards any particular viewpoint, it focuses on one individual's opinion rather than presenting a balanced view of the broader private equity indus
AxiosIndependienteCentroVeracidad: sin fuente/documento oficial detectadoObjetividad 85
Los equipos de seguridad se enfrentan a un nuevo desafío en la lucha contra las amenazas cibernéticas impulsadas por la IA: los poderosos modelos de IA utilizados para detectar y responder a los ataques a veces restringen su propio uso durante las investigaciones. Este problema salió a la luz después de que OpenCode, una plataforma de codificación de IA de código abierto, sufriera una violación que permitió a los atacantes robar claves API de varios proveedores principales de IA, incluidos OpenAI, Anthropic y Google. OpenCode atribuyó la violación a un "ataque de destilación a gran escala" que afectó al 1,4% de sus usuarios. Durante la investigación, el equipo de OpenCode descubrió que los modelos avanzados de IA inicialmente ayudaron a analizar la violación, pero luego se negaron a cooperar debido a las restricciones de seguridad incorporadas. Para continuar su trabajo, OpenCode accedió al programa Daybreak Blue de OpenAI, que proporciona a los expertos en ciberseguridad un acceso menos restringido a los modelos de IA. El incidente pone de relieve un dilema más amplio para los profesionales de la ciberseguridad: equilibrar la necesidad de herramientas de IA rápidas y potentes con los riesgos de uso indebido por parte de actores maliciosos.
Lectura del sesgo (Centro): El artículo discute los desafíos técnicos relacionados con la IA en la ciberseguridad sin tomar una postura sobre cuestiones políticas. Se centra en las limitaciones operativas de los modelos de IA y no enmarca la discusión en términos de ideología política, política o conflicto partidista.
Por qué veracidad: sin fuente/documento oficial detectado
Por qué objetividad (85): The article presents the situation in a largely neutral manner, focusing on the technical aspects of the breach and the responses from involved parties. However, there is a slight emphasis on the challenges faced by cybersecurity teams due to AI guardrails, which may subtly highlight the issue rathe
AxiosIndependienteCentroVeracidad: sin fuente/documento oficial detectadoObjetividad 78
Anthropic, una startup de inteligencia artificial, ha demostrado un fuerte desempeño financiero, reportando un crecimiento significativo de los ingresos y convirtiéndose en un flujo de efectivo positivo en el tercer trimestre. Esto se produce en medio de preocupaciones más amplias en Wall Street sobre una burbuja de IA, lo que hace que los resultados de Anthropic sean particularmente notables. Los ingresos de la compañía aumentaron casi un 50% a $ 16.8 mil millones en comparación con el trimestre anterior, superando a muchas empresas establecidas como Alphabet, que informaron un flujo de efectivo libre negativo. Anthropic atribuye su éxito a inversiones estratégicas en la adopción empresarial y capacidades de codificación, como su popular producto Claude Code, que generó ingresos sustanciales. A pesar de la desaceleración del crecimiento en comparación con trimestres anteriores, la compañía sigue siendo un contendiente superior en el panorama competitivo de la IA, con expectativas de una oferta pública inicial histórica.
Lectura del sesgo (Centro): El artículo se centra en el rendimiento financiero y la dinámica del mercado relacionado con una empresa de IA, sin comentarios políticos explícitos o alineación con posiciones ideológicas específicas.
Por qué veracidad: sin fuente/documento oficial detectado
Por qué objetividad (78): The article presents the information in a largely neutral manner, though it does include phrases like 'eye-popping financials' and 'blistering pace of growth,' which may introduce slight subjectivity. It also frames the situation in contrast to competitors like Google and OpenAI, which could subtly
AxiosIndependienteCentroVeracidad: sin fuente/documento oficial detectadoObjetividad 55
Las principales compañías de inteligencia artificial como Anthropic, OpenAI y otras están estableciendo marcos de autorregulación para administrar sus tecnologías y los impactos sociales que generan, evitando la supervisión federal. Estas empresas están desarrollando voluntariamente mecanismos para redistribuir su creciente riqueza, lo que refleja enfoques divergentes de la gobernanza y el beneficio público. Anthropic se ha comprometido a asignar el 20% de sus acciones a iniciativas públicas, mientras que Elon Musk propuso distribuir acciones directamente a los niños estadounidenses, y el CEO de OpenAI sugirió otorgar al gobierno de los Estados Unidos una participación a través de un fondo soberano de riqueza. Estos esfuerzos destacan la creciente influencia de las principales corporaciones de IA y plantean preguntas sobre cómo se administrará su poder y recursos en ausencia de una fuerte regulación gubernamental.
Lectura del sesgo (Centro): El artículo presenta múltiples perspectivas sobre cómo las empresas de IA están manejando la autorregulación y la redistribución de la riqueza sin favorecer abiertamente ninguna postura ideológica particular. En él se describen varias propuestas de diferentes entidades sin hacer editoriales ni utilizar un lenguaje sesgado, manteniendo un enfoque
Por qué veracidad: sin fuente/documento oficial detectado
Por qué objetividad (55): The article uses dramatic language like 'wielded such sweeping power to shape society' and implies a negative view of corporate self-regulation. The framing suggests skepticism toward the companies' intentions without providing balanced counterpoints.
Cómo lo cubrió cada lado
El mismo suceso, agrupado por la inclinación política de los medios que lo cubren.
progresista
centro
conservador
★
Cómo lo cubrió cada lado
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
Las principales afirmaciones fácticas y cuántas fuentes las respaldan o las rebaten.
★
Verificación de afirmaciones
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
United States
