De acuerdo a un estudio de la Universidad Nacional Autónoma de México (UNAM), cerca del 80% de las personas en el mundo usan inteligencia artificial todos los días y no lo saben. La inteligencia artificial (IA) se encuentra en chatbots, generadores de imágenes, videos y música, por nombrar algunas simples cosas de la cotidianeidad. Los asistentes tecnológicos pasaron a ser parte integral de nuestras vidas: responden consultas, controlan dispositivos domésticos, filtran los correos electrónicos entre spam y no, reconocimiento facial como medida de seguridad, traducciones automáticas, desgravaciones en tiempo real, recomendaciones por medio de algoritmos, entre muchas otras acciones e interacciones que tenemos con la tecnología casi sin darnos cuenta. En todo esto y mucho más interviene la IA.

En materia de desarrollo de software la IA está generando espacios de desarrollo que hace más de 20 años eran impensados. Estamos transitando un cambio de paradigma de forma muy acelerada, en el que el software ya no es una relación sistema-persona, sino que nosotros como personas ya estamos dentro de los sistemas. Cada movimiento nuestro estimula un punto del sistema que genera información, que luego le sirve a alguien para tomar decisiones. Los desafíos a futuro son realmente importantes, donde la Inteligencia Artificial será protagonista.

No hay duda de que esta tecnología llegó para quedarse y que se ha convertido en una de las tecnologías más relevantes de estos tiempos. Su impacto en lo económico y social es incalculable. ¿Cuál será su alcance? Nadie lo sabe, pero sí podemos pronosticar que tanto el ámbito público como el privado, tendrán que focalizar sus inversiones y desarrollos en esta dirección, porque las tecnologías basadas en inteligencia artificial seguirán evolucionando y perfeccionándose, y lo que ahora hay que definir es el para qué, con qué objetivo, y cuáles son sus consecuencias. Es por ello, que en 2024, se debe profundizar una serie de debates y cuestiones éticas que vienen siendo objeto de discusión tanto en la comunidad científica como en la sociedad en general. Algunos de los debates más relevantes incluyen:

Ética y responsabilidad: La IA pone al descubierto cuestiones sobre la ética y la responsabilidad en el desarrollo y uso de sistemas inteligentes. ¿Quién es responsable en caso de decisiones erróneas o consecuencias negativas de un sistema de IA? ¿Cómo se pueden incorporar principios éticos en el diseño de algoritmos? ¿Hay un impacto de la inteligencia artificial en el balance de influencia de los países? ¿Es la inteligencia artificial una tecnología que definirá una nuevo concepto de poder?

Discriminación y sesgo: Los algoritmos de IA pueden heredar sesgos existentes en los conjuntos de datos utilizados para su entrenamiento. Esto puede llevar a decisiones discriminativas, por ejemplo, en la selección de candidatos para un trabajo o en la aprobación de préstamos o más aún en políticas y procedimientos de seguridad pública. Encontrar métodos y prácticas que ayuden a identificar sesgos en uno de los desafíos técnicos más importantes de la IA.

Interpretabilidad y explicabilidad: A menudo, los modelos de IA, especialmente los basados en aprendizaje profundo, son difíciles de entender. La falta de capacidad del software de poder interpretar y/o explicar las decisiones o resultados que no provee puede generar desconfianza. ¿Cómo pueden los desarrolladores hacer que los sistemas de IA sean más comprensibles para los usuarios y los afectados por las decisiones de la IA?

Privacidad: La recopilación masiva de datos para entrenar modelos de IA plantea preocupaciones sobre la privacidad. ¿Cómo se pueden garantizar prácticas de recopilación y uso de datos éticas? ¿Qué medidas se deben tomar para proteger la privacidad de las personas?. Enfoques como la IA simbólica basada en datos sintéticos puede contribuir en este punto.

Desplazamiento laboral: La automatización impulsada por la IA puede tener un impacto en el empleo, desplazando ciertos trabajos y creando la necesidad de nuevas habilidades. Esto plantea preguntas sobre la responsabilidad social y la necesidad de desarrollar políticas que aborden el impacto económico y social de la IA.

Seguridad: A medida que la IA se vuelve más avanzada, también se plantean preocupaciones sobre la seguridad. ¿Cómo se pueden proteger los sistemas de IA contra ataques maliciosos? ¿Qué medidas se deben tomar para garantizar la integridad de los sistemas de IA críticos?

Autonomía y toma de decisiones: La implementación de sistemas autónomos y la toma de decisiones automatizada plantean preguntas sobre quién debería ser responsable en caso de fallo y cómo se pueden establecer límites éticos para la autonomía de la IA.

Estos debates reflejan la complejidad de integrar la IA en la sociedad de manera ética y responsable, y subrayan la importancia de un enfoque multidisciplinario que incluya a expertos en ética, derecho, ciencia de datos y otras disciplinas relacionadas. La búsqueda de respuestas a estos interrogantes y soluciones a estas preocupaciones se torna esencial. Este 2024 el foco no sólo debe estar en mayores desarrollos e inversiones en materia de IA, sino también en perfeccionar todas estas cuestiones que hacen a la vida de las personas, porque si bien la IA avanza y escala de forma acelerada, las personas son parte, y como mencionaba al comienzo, todos estamos dentro de los propios sistemas de desarrollos.

Alejandro Bianchi es fundador y presidente de LIVEWARE