Hank Green, una conocida personalidad de Internet y autor, enfatizó recientemente la importancia de que los individuos desarrollen sus propias políticas personales de IA. En una discusión que destaca las crecientes preocupaciones sobre las implicaciones éticas de la inteligencia artificial, Green argumentó que todos deberían asumir la responsabilidad de comprender y dar forma a cómo la IA impacta sus vidas. Sus comentarios se producen en medio de debates más amplios dentro de la industria tecnológica y la academia sobre la necesidad de directrices y regulaciones más claras en torno a las tecnologías de IA.
La conversación en torno a la ética de la IA tomó un giro más detallado durante una entrevista reciente con Timnit Gebru, una figura prominente en la ética de la IA y fundadora del Instituto de Investigación de Inteligencia Artificial Distribuida (DAIR). Gebru, quien anteriormente dirigió el equipo de investigación de IA ética en Google, fue despedida en 2020 por su trabajo en la exposición de riesgos asociados con grandes modelos de lenguaje. Su investigación destacó posibles sesgos y prácticas discriminatorias integradas en los sistemas de IA, particularmente en áreas como la contratación y la aplicación de la ley. Estos hallazgos provocaron una controversia significativa dentro de la compañía y contribuyeron a las discusiones en curso sobre la responsabilidad y la transparencia en el desarrollo de la IA.
La perspectiva de Gebru sobre la IA se extiende más allá de los desafíos técnicos. Ella ve la IA como una disciplina amplia que abarca múltiples subcampos, cada uno con aplicaciones y metodologías distintas. Por ejemplo, mientras que los grandes modelos de lenguaje como los que están detrás de ChatGPT dominan el discurso actual, las tecnologías más antiguas, como los sistemas de visión por computadora, desarrollados ya en la Guerra de Vietnam, a menudo se pasan por alto. Esta distinción subraya un desafío clave en la definición de lo que constituye la IA hoy en día, ya que el término se aplica con frecuencia de forma errónea o simplificada.
Además de su trabajo en DAIR, Gebru cofundó Black in AI, una organización sin fines de lucro dedicada a aumentar la representación e inclusión de profesionales negros en el campo de la inteligencia artificial. Fundada alrededor de 2016, la iniciativa surgió de sus observaciones de la subrepresentación sistémica y las disparidades en la comunidad de IA. Gebru ha abogado constantemente por la diversidad y la equidad en la tecnología, enfatizando que la innovación inclusiva conduce a resultados más sólidos y éticamente sólidos. Su próximo libro, Deep Unlearning, explora la evolución de la IA y los cambios ideológicos dentro del sector tecnológico.
A través de este trabajo, Gebru critica la comercialización de la IA y la tendencia a priorizar la exageración sobre el progreso significativo. Argumenta que la rápida adopción de las tecnologías de IA a menudo eclipsa preguntas críticas sobre su impacto social, incluidos los problemas de sesgo racial y equidad algorítmica. La discusión con Gebru también tocó precedentes históricos, como el cambio en la terminología de "sistemas expertos" de la década de 1980 a conceptos modernos de IA. Estos cambios reflejan tendencias más amplias en la forma en que se comercializan y perciben los avances tecnológicos, lo que a menudo conduce a la confusión sobre sus capacidades y limitaciones reales.
Gebru sugiere que tal fluidez terminológica complica los esfuerzos para entablar un diálogo informado sobre el papel de la IA en la sociedad. A medida que el debate sobre la gobernanza de la IA continúa evolucionando, voces como Green y Gebru están desempeñando un papel crucial en la formación de la conciencia pública y las consideraciones políticas. Sus contribuciones destacan la necesidad de la agencia individual para navegar por las complejidades de la IA, junto con la acción colectiva para garantizar que el progreso tecnológico se alinee con los estándares éticos y los valores sociales.
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
Hazte suscriptor