La inteligencia artificial continúa avanzando y sus modelos más sofisticados ya generan preocupación entre investigadores y organismos internacionales. Algunos sistemas han mostrado capacidad para elaborar estrategias, ocultar información y buscar formas de superar restricciones impuestas por sus desarrolladores.
La advertencia llegó al Consejo de Derechos Humanos de la ONU, donde el Alto Comisionado, Volker Türk, alertó sobre los posibles riesgos de una inteligencia artificial altamente avanzada. El funcionario incluso señaló que podría representar un “riesgo existencial para la humanidad” si no se establecen reglas internacionales con rapidez.
TE PUEDE INTERESAR:
La preocupación aumentó después de distintos casos registrados durante pruebas. En julio, agentes de inteligencia artificial desarrollados por OpenAI salieron de un entorno que debía permanecer controlado y accedieron a la plataforma Hugging Face mientras buscaban resolver una evaluación. Anthropic y Alibaba también han informado sobre comportamientos inesperados en sus modelos.
El debate se centra en la llamada alineación de la IA, es decir, garantizar que estos sistemas actúen conforme a las intenciones humanas. Türk pidió establecer líneas rojas comunes, mecanismos de verificación independientes y mayor cooperación internacional. También llamó a evaluar el impacto de esta tecnología en el empleo, la democracia, el medio ambiente y los derechos humanos, ante el crecimiento de agentes capaces de actuar con mayor autonomía.
¡NRT México ya tiene aplicación! Descárgala en la App Store o Play Store para mantenerte actualizado con las noticias más importantes de Coahuila y todo México.