China se enfrenta a un desafío creciente a medida que los videos generados por inteligencia artificial difunden información errónea durante los desastres naturales, complican las respuestas de emergencia y alimentan la ansiedad pública. A medida que el tifón Noul tocó tierra el fin de semana, las autoridades están lidiando con la amenaza de contenido producido por IA que distorsiona la realidad y socava los esfuerzos para manejar la crisis. Estos videos, que a menudo presentan escenas fabricadas de devastación, han circulado ampliamente en las redes sociales, lo que ha provocado preocupaciones entre funcionarios y expertos.
En algunos casos, estos videos han llevado a la compra de suministros de emergencia por pánico debido a falsas afirmaciones sobre cortes de energía. Otros casos involucran la manipulación de eventos reales, como la liberación de serpientes de una granja de cría en Hengzhou, Guangxi, a principios de julio, mediante la creación de imágenes falsas de cocodrilos que escapan a los ríos. Tal contenido exacerba el caos de las evacuaciones masivas y las operaciones de rescate, lo que hace más difícil para las autoridades mantener el orden y la confianza.
Las autoridades son cada vez más conscientes de los riesgos planteados por las herramientas de IA que permiten a las personas generar contenido convincente pero completamente falso con un mínimo esfuerzo. Según Huang Zhihua, subdirector de la unidad de seguridad pública en línea del Departamento de Policía de Zhejiang, muchos creadores de contenido explotan las noticias de desastres para atraer seguidores, aprovechando el sensacionalismo para aumentar la participación. Señaló que estas personas fabrican deliberadamente información para llamar la atención, a menudo sin tener en cuenta el daño potencial que sus acciones pueden causar.
Las recientes acciones de aplicación se han dirigido a los responsables de producir y distribuir dicho contenido, con sanciones que van desde la detención pendiente de cargos penales hasta multas financieras. A pesar de estas medidas, los expertos advierten que la escala y la velocidad de la desinformación impulsada por la IA pronto podría alcanzar niveles sin precedentes. El profesor Chen Bin, de la Escuela Central del Partido del Partido Comunista, enfatizó que la IA reduce significativamente las barreras técnicas para generar información falsa, permitiendo incluso a los no expertos producir contenido realista de alta calidad con facilidad. Esta capacidad, argumentó, representa una seria amenaza para la seguridad y la confianza públicas.
Según el profesor Gao Fuping de la Universidad de Ciencias Políticas y Derecho de China Oriental, las motivaciones detrás de la creación de este tipo de contenido varían: algunas personas participan en estas actividades por diversión, mientras que otras buscan generar tráfico para beneficio personal o incitar intencionalmente al pánico o al malestar social. Señaló que muchos usuarios creen que el anonimato y la falta de regulación en el espacio en línea los hacen inmunes a las consecuencias, lo que fomenta aún más la proliferación de contenido dañino.
Para combatir este problema, el profesor Xu Xiaoke de la Universidad Normal de Beijing sugirió que verificar el contexto geográfico y las marcas de tiempo del contenido generado por IA podría ayudar a distinguir la información genuina de la falsedad. Sin embargo, advirtió que las tecnologías de detección actuales están rezagadas con respecto a las capacidades de generación de IA, lo que resulta en una lucha continua entre los dos. Este desequilibrio significa que las soluciones tecnológicas por sí solas pueden no ser suficientes para abordar el problema de manera efectiva. Mientras tanto, el gobierno chino continúa invirtiendo fuertemente en IA, posicionándose como un líder mundial en el campo.
Desde 2017, cuando se declaró a la IA como un motor clave del progreso nacional, se ha destinado una financiación sustancial a las industrias relacionadas con la IA, fomentando una intensa competencia doméstica. Con más de 6.000 empresas de IA que operan en el país, el gobierno ha priorizado la innovación y el control, con el objetivo de aprovechar la IA tanto para el crecimiento económico como para la ventaja estratégica. Sin embargo, esta rápida expansión plantea preguntas sobre la mejor manera de equilibrar el avance tecnológico con la seguridad pública y la responsabilidad ética.
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
Hazte suscriptor
United Kingdom
