Coa masiva irrupción da Intelixencia Artificial en todos os ámbitos sociais e empresariais, a súa ética converteuse nunha das cuestións máis debatidas.

A Ética da Intelixencia Artificial é o conxunto de principios e normas deseñadas para garantir que o desenvolvemento e uso da IA sexan responsables, xustos e beneficiosos. Trátase de minimizar riscos e maximizar beneficios, asegurando que a tecnoloxía respecta os dereitos humanos, a equidade e a transparencia.

Esta necesaria combinación de innovación e ética non é algo novo.

Os primeiros debates sobre ética na tecnoloxía remóntanse a mediados do século XX da man, entre outros, de pioneiros como Alan Turing e Isaac Asimov.

Nos anos 80 e 90 xa se estuda a idea de programar sistemas que teñan en conta valores morais.

Coa chegada do século XXI e o auxe da IA, as preocupacións éticas son abordadas tanto por organizacións públicas como polas empresas. De feito, algunhas delas, como Google, Microsoft e OpenAI, son pioneiras na elaboración de principios para unha IA ética. Pero é a UNESCO a que lanza a primeira normativa que fala directamente de ética da IA.

A UNESCO, pioneira en publicar recomendacións para unha IA ética

As primeiras recomendacións mundiais sobre a ética da IA, "Recomendación sobre a ética da Intelixencia Artificial", publicounas a UNESCO en 2021 e son aplicables (aínda que non obrigatorias) para os 194 Estados membros da organización.

Trátase dun marco global para o desenvolvemento e uso responsable da IA e o seu obxectivo é garantir que a IA beneficie á humanidade respectando os dereitos humanos, a diversidade, a inclusión e o desenvolvemento sostible.

Entre os seus principios clave figuran o respecto aos Dereitos Humanos, a dignidade e a non discriminación e a necesidade de contribuír ao benestar social e á protección ambiental. En termos de inclusión e xustiza social, a IA debe ser accesible e non aumentar fendas dixitais.

Alude tamén á necesidade de implantar sistemas de IA comprensibles e auditables e de establecer mecanismos de supervisión para evitar danos.

Para poder levar estes ideais á práctica, establece catro áreas fundamentais de acción:

• Gobernanza de datos: Protección da privacidade e seguridade da información.

• Educación e formación: Promover a alfabetización en IA.

• Supervisión ética: Creación de comités e regulacións para o uso ético da IA.

• Medio ambiente: Reducir o impacto ambiental do desenvolvemento de IA.

A Unión Europea e a ética da Intelixencia Artificial

Pola súa banda, a UE aprobou en 2023 a primeira regulación integral sobre IA no mundo e foi unha das principais rexións en promover unha IA ética e regulada. O seu enfoque baséase en garantir que a Intelixencia Artificial sexa transparente, segura e respectuosa cos dereitos fundamentais.

Para a UE, as tres características claves serían:

• IA lícita, capaz de cumprir coas leis e regulacións vixentes.

• IA ética, que respecta os dereitos humanos e os valores europeos.

• IA robusta, cuxo funcionamento é seguro e confiable.

A lei europea baséase na definición e na clasificación das aplicacións que utilicen a IA en función do nivel de risco para os/as usuarios/as; é dicir, a maior risco, maior regulación. Nestoutro post do noso blog contámosche todos os detalles da regulación europea da IA.

Principios fundamentais da Ética da Intelixencia Artificial

Como vemos, o concepto de ética na IA evolucionou ao longo do tempo, pasando de reflexións teóricas a regulacións concretas.

E cales son as principais cuestións que cómpre ter en conta para conseguir unha IA ética?

  • Sesgo e discriminación. Os algoritmos de IA poden herdar ou amplificar rumbos presentes nos datos cos que foron adestrados, así que é necesario detectalos e minimizalos para non levar a discriminación.
  • Transparencia e explicabilidade. Moitas decisións da IA son difíciles de explicar debido á complexidade dos modelos, así que resulta fundamental a transparencia e a explicabilidade. De aí a importancia de conceptos como a Intelixencia Artificial Explicable (XAI), estreitamente relacionada co dereito á explicación e orientada a ofrecer máis información sobre como funciona un sistema e cales son as razóns que provocan as súas conclusións, accións, recomendacións ou predicións.
  • Privacidade e protección de datos. A IA manexa grandes volumes de datos, persoais e empresariais, o que expón necesidades sobre a privacidade e o uso indebido da información. Cumprir coas regulacións e aplicar mecanismos de encriptación e anonimización son esenciais.
  • Responsabilidade e rendición de contas. Quen é responsable se unha IA comete un erro? Resulta fundamental establecer mecanismos de control e marcos legais que definan a responsabilidade en casos de fallo ou dano causado pola IA.
  • Autonomía e toma de decisións. Os sistemas de IA xa poden tomar decisións sen intervención humana, o que provoca dilemas éticos, especialmente delicados en áreas como a medicina ou a defensa.
  • Ciberseguridade. Necesítanse ferramentas e mecanismos que ofrezan unha garantía completa e avanzada de seguridade en aplicacións que utilizan a IA.
  • Manipulación e información falsa (Deepfakes). A IA pode xerar deepfakes, noticias falsas e campañas de desinformación, así que é clave desenvolver ferramentas para detectar e mitigar estes problemas.
  • IA e sostibilidade. O adestramento e funcionamento de modelos de IA consome grandes cantidades de enerxía, contribuíndo a incrementar a pegada de carbono. Cada vez demandaranse máis IAs que, ademais, sexan sostibles.

Ética da IA na empresa

En canto ás empresas, tamén resulta clave un enfoque e uso da IA que teña en conta a ética.

A implementación da chamada ética da IA en Empresas pasa polo establecemento de códigos de ética, auditorías e políticas internas e a consolidación dunha cultura onde a ética sexa parte do desenvolvemento tecnolóxico, incluíndo a formación a empregados/as sobre o uso responsable da IA.

A aplicación dunha IA Ética na empresa reporta unha serie de beneficios:

• Maior confianza de clientes/as e usuarios/as

• Sistemas máis robustos e libres de sesgos

• Cumprimento de regulacións e redución de riscos legais

• Mellor reputación corporativa e vantaxe competitiva

A ética é, pois, unha parte esencial da Intelixencia Artificial e debe contar con espazo destacado en toda regulación e aplicación pública ou privada.

Se queres saber máis sobre as nosas solucións tecnolóxicas para empresas relacionadas con Intelixencia Artificial, subscríbete ao noso boletín ou contacta co/coa teu/túa asesor/a persoal ou co noso equipo da área comercial empresas a través do seguinte formulario. E para estar ao día das últimas noticias síguenos en LinkedIn.