Principales dilemas de la ética de la IA

[ngela-1650-VRz78H]

Buenas tardes:

Soy Ángela y me gustaría abrir este tema hablando de los que creo son los principales dilemas actuales en el desarrollo de la IA. En esta noticia se habla de 5 ámbitos diferentes, en los que a día de hoy la IA está empezando a dar problemas moralmente, el arte, los géneros, la conducción y el arte.

En mi opinión este tema debe plantearse muy seriamente, ya que cada vez el uso de la IA es mayor, y no nos podemos permitir el que las nuevas generaciones y las decisiones futuras que utilicen la IA sean influenciadas por éticas que son erróneas, ya sea porque discriminan, segregan, malinterpretan...

¿Cómo creeis que se pueden solucionar estos temas?¿Podríamos llegar en un futuro a ceder la decisión, por ejemplo de un caso judicial, a una IA?

https://www.unesco.org/es/artificial-intelligence/recommendation-ethics/cases

Muchas gracias.

[Daniel-4111-eOke7D]

Buenos días, soy Daniel.

Ángela, estoy de acuerdo en que la IA y su "libertad creativa" puede crear graves conflictos éticos y morales, los cuales deben tratarse lo antes posible, antes de que se escapen de nuestras manos y no podamos dar marcha atrás.

El primer tema que trata el artículo que nombras el sesgo de la IA. En este artículo en concreto se hace referencia a las IA de los motores de búsqueda. Lo que critica el artículo es el sesgo de género que existe entre los resultados de búsqueda masculinos y femeninos para un mismo término, poniendo el ejemplo de la palabra colegial/la.
Como dice el propio artículo, los motores de búsqueda enseñan los resultados que obtienen más clicks, ya que los consideran mejores y más atractivos para el usuario. Es cierto que existe un sesgo de género, ya que los resultados de búsqueda son diferentes. Sin embargo, ese sesgo no tiene porque ser malo. Al fin y al cabo, o por lo menos este es mi punto de vista; en un motor de búsqueda, tu objetivo es encontrar los resultados relacionados con el término buscado que más te interesan, y si esos son diferentes atendiendo al género, realmente no le causan ningún problema al usuario final.
Su funcionamiento (los motores de búsqueda basados en IA), es muy similar al de los algoritmos de las redes sociales, como Youtube. Si hay un resultado, enlace o video que te va a interesar más que otro, ¿por qué no mostrártelo? Otro debate sería el de si las personas deberíamos sexualizar ciertas cosas, como la palabra colegiala que ponen como ejemplo en el artículo.

[Daniel-4111-eOke7D]

El segundo tema que trata el artículo, es la aplicación de la IA para la justicia.

Me gustaría diferenciar los casos judiciales en dos: los de baja y alta importancia. Me refiero a los de baja importancia como aquellos que se tratan rutinariamente en los juzgados, y a los de alta importancia como aquellos que necesitan ser tratados por la audiencia nacional o por algún juzgado de mayor calibre.

Los casos "normales", de baja importancia, no suelen tener demasiada dificultad. Los abogados exponen los hechos, el juez reflexiona, dictamina si la acusación es veraz, y dentro de un margen legal establece un castigo para el acusado en caso de ser dictaminado culpable.
Considero que estos casos son fácilmente automatizables, ya que no suponen dilemas morales.

Los casos de gran importancia, tratados en la audiencia nacional, normalmente o suponen dilemas morales importantes, o su resultado trae consecuencias muy importantes al país. Estos casos son más difíciles de automatizar, ya que requieren de mucho debate y consenso no solo por parte de los fiscales y jueces, sino también de la población. Lo cual me lleva a pensar que la aplicación de la IA en estos casos traería más problemas que soluciones.

[Daniel-4111-eOke7D]

El tercer punto tratado en el artículo es el más controversial, ya que es el más "humano", con el que más nos identificamos. Este punto es la IA en la creación de arte.

Una de las acepciones de la RAE para la palabra arte es la siguiente: Manifestación de la actividad humana mediante la cual se interpreta lo real o se plasma lo imaginado con recursos plásticos, lingüísticos o sonoros. La definición habla de la actividad humana, lo cual ya descartaría la posibilidad de las IAs para crear arte. Pero debido a la gran evolución tecnológica de las mismas, vamos a considerar que, efectivamente, las IAs son capaces de crear arte.

Aclarado esto, me gustaría discutir la siguiente pregunta: ¿A quién pertenece una obra de arte? La respuesta más obvia a esta pregunta, y la primera que se nos ocurre, es que una obra de arte pertenece a su creador. Ahora bien, ¿pertenece también a su creador si este se ha inspirado en otras obras? La respuesta generalizada es que sí. Los humanos tenemos muy arraigado que a la hora de crear arte, tenemos que inspirarnos y tomar referencias como primera fase del proceso compositivo.

Dicho esto, ¿no resulta evidente que las IAs, simplemente se inspiran en otros autores antes de crear sus obras, y por tanto son suyas? Creo que la controversia viene por decidir si una IA, es capaz de ser dueña de algo. Yo digo que sí, que una IA puede tener creaciones en su propiedad. Sus creadores actúan como padres que enseñan a un hijo, y lo que consigue el hijo es propiedad del hijo.

Esto no quita, que los dueños de una IA puedan mantenerla privada, y cobrar por sus servicios, y al ser una creación suya, que las obras de arte, cuentos, etc. creadas por la IA sean de su propiedad en cuanto a lo legal se refiere.

Como conclusión: una IA puede crear arte, este arte le pertenece, pero sus creadores tienen derecho a sacarle partido económico. Esa es mi opinión.

[Daniel-4111-eOke7D]

Finalmente tenemos el caso del coche autónomo.

Aquí voy a ser breve. Al igual que el piloto automático en los aviones, lo considero un simple avance tecnológico sin mayor dilema ético. Es una herramienta que facilita nuestra vida, posiblemente en un futuro haga más segura la conducción, y no representa ningún riesgo en el desarrollo mental o físico del ser humano. es por esto que estoy completamente a favor del desarrollo de los coches con sistema de conducción autónoma.

[Rodrigo-1650-kpnA4K]

El segundo tema que trata el artículo, es la aplicación de la IA para la justicia.

Me gustaría diferenciar los casos judiciales en dos: los de baja y alta importancia. Me refiero a los de baja importancia como aquellos que se tratan rutinariamente en los juzgados, y a los de alta importancia como aquellos que necesitan ser tratados por la audiencia nacional o por algún juzgado de mayor calibre.

Los casos "normales", de baja importancia, no suelen tener demasiada dificultad. Los abogados exponen los hechos, el juez reflexiona, dictamina si la acusación es veraz, y dentro de un margen legal establece un castigo para el acusado en caso de ser dictaminado culpable.
Considero que estos casos son fácilmente automatizables, ya que no suponen dilemas morales.

Los casos de gran importancia, tratados en la audiencia nacional, normalmente o suponen dilemas morales importantes, o su resultado trae consecuencias muy importantes al país. Estos casos son más difíciles de automatizar, ya que requieren de mucho debate y consenso no solo por parte de los fiscales y jueces, sino también de la población. Lo cual me lleva a pensar que la aplicación de la IA en estos casos traería más problemas que soluciones.

Hola Daniel,

aun siendo verdad que existen procedimientos judiciales más importantes en el ámbito nacional e internacional, la función del poder judicial es la de velar por el cumplimiento de todas leyes para mantener estabilidad y proteger lo más posible los derechos de la población. Has simplificado mucho la labor del poder judicial, prácticamente todos los casos dan lugar a debate (si no hubiera debate no existirían y la sentencia sería inmediata).

Además, como puedes leer en este enlace del poder judicial español¹, la audiencia nacional también se encarga de estudiar y juzgar las apelaciones de personas que no están conformes con la resolución de un caso "normal" y, en su mayoría, la gente que reclama al poder judicial es aquella con la capacidad, dinero y seguridad suficiente.

Si se aplicara tu propuesta, estaríamos estableciendo una brecha en la igualdad muy grande entre los ciudadanos al considerar que los casos de la gente con poder son más importantes y al clasificar a los de la gente como tú y yo como "fáciles y de baja importancia". Por muy efectiva que sea esa hipotética IA se estaría reconociendo que no merece ser la encargada de "grandes responsabilidades".

Es mucho más fiable un jurado humano que se adapte a cada caso que una IA sin conciencia u opinión que se base en casos antiguos que, aunque tengan relación, son diferentes.

¹https://www.poderjudicial.es/cgpj/es/Poder-Judicial/Audiencia-Nacional/Informacion-institucional/Como-funciona-la-AN/

Esta es mi objetiva opinión, Rodrigo Silva.
Colegio Blanca de Castilla.

[Daniel-4111-eOke7D]

Hola Rodrigo,
lo primero que me gustaría mencionar es, irónicamente, tu despedida. Hablas de que esa es tu "objetiva opinión". Esta es la primera acepción de la RAE para la palara objetiva: 1. adj. Perteneciente o relativo al objeto en sí mismo, con independencia de la propia manera de pensar o de sentir.

Una opinión nunca va a ser objetiva, en una contradicción. Puede parecer que esto es una tontería, un simple ataque, pero tiene más importancia.

Las decisiones que toma una sociedad siempre se toman en un determinado marco de pensamiento, que se establece atendiendo a la opinión de las personas. Sin que suene ilógico, mi marco de pensamiento, sobre todo en el ámbito judicial, es que hay que buscar un sistema justo y eficiente, que funcione.

En el enlace que adjuntas, podemos ver cuales son las competencias de la Audiencia Nacional. Yo personalmente estoy de acuerdo con ellas, pero más importante aún, la Audiencia Nacional funciona y lleva a cabo su cometido, el de juzgar casos de relevancia nacional.

Esto nos vuelve a decir que los juzgados normales se encargan de asuntos menos relevantes. Supongamos un sistema judicial perfecto, en el que se tenga pleno conocimiento de la ley, y se expongan todos los datos objetivamente. En este sistema "ideal", no habría ninguna duda a la hora de condenar a una persona, y simplemente se tendría en cuenta su estatus o la gravedad del delito cometido para modificar la pena. Por ejemplo, no tiene la misma pena un ladrón que robe 100.000€ que uno que haya robado 200.000€. Lo bueno que tienen estas diferencias en la gravedad de un caso, es que son cuantificables.

Actualmente tenemos un sistema judicial completamente saturado, con juicios que pueden durar varios años y apelaciones que los pueden alargar casi indefinidamente. Esto debido a que no se tienen todos los factores en cuenta a la hora de realizar un juicio, y a que las personas no son capaces de realizar estas tareas a la perfección y rápido.

Ahora bien, si las personas tenemos limitaciones a la hora de realizar juicios, busquemos algún sistema o método que sea capaz de hacerlos. Tiene que ser capaz de analizar grandes cantidades de datos, de forma objetiva, y clasificar los casos según una escala de gravedad cuantificable. Y voilà, hemos dado con el candidato ideal, la IA. Capaz de analizar ingentes cantidades de datos y de tomar decisiones objetivas.

Otro problema que mencionas es que solo los ricos pueden reclamar a la Audiencia Nacional. Eso es completamente falso, en España se ofrece un servicio de asistencia jurídica gratuita a aquellos que acrediten carecer de recursos económicos, por lo que los ricos no son los únicos que pueden reclamar.

En conclusión, la IA podría ser una herramienta de gran ayuda en los juicios que eliminase la enorme lista de espera y retrasos que hay en el sistema judicial español. Es decir, sería un sistema que funciona.

Un saludo, Daniel Martí

[Rodrigo-1650-kpnA4K]

Hola Rodrigo,
lo primero que me gustaría mencionar es, irónicamente, tu despedida. Hablas de que esa es tu "objetiva opinión". Esta es la primera acepción de la RAE para la palara objetiva: 1. adj. Perteneciente o relativo al objeto en sí mismo, con independencia de la propia manera de pensar o de sentir.

Una opinión nunca va a ser objetiva, en una contradicción. Puede parecer que esto es una tontería, un simple ataque, pero tiene más importancia.

Las decisiones que toma una sociedad siempre se toman en un determinado marco de pensamiento, que se establece atendiendo a la opinión de las personas. Sin que suene ilógico, mi marco de pensamiento, sobre todo en el ámbito judicial, es que hay que buscar un sistema justo y eficiente, que funcione.

En el enlace que adjuntas, podemos ver cuales son las competencias de la Audiencia Nacional. Yo personalmente estoy de acuerdo con ellas, pero más importante aún, la Audiencia Nacional funciona y lleva a cabo su cometido, el de juzgar casos de relevancia nacional.

Esto nos vuelve a decir que los juzgados normales se encargan de asuntos menos relevantes. Supongamos un sistema judicial perfecto, en el que se tenga pleno conocimiento de la ley, y se expongan todos los datos objetivamente. En este sistema "ideal", no habría ninguna duda a la hora de condenar a una persona, y simplemente se tendría en cuenta su estatus o la gravedad del delito cometido para modificar la pena. Por ejemplo, no tiene la misma pena un ladrón que robe 100.000€ que uno que haya robado 200.000€. Lo bueno que tienen estas diferencias en la gravedad de un caso, es que son cuantificables.

Actualmente tenemos un sistema judicial completamente saturado, con juicios que pueden durar varios años y apelaciones que los pueden alargar casi indefinidamente. Esto debido a que no se tienen todos los factores en cuenta a la hora de realizar un juicio, y a que las personas no son capaces de realizar estas tareas a la perfección y rápido.

Ahora bien, si las personas tenemos limitaciones a la hora de realizar juicios, busquemos algún sistema o método que sea capaz de hacerlos. Tiene que ser capaz de analizar grandes cantidades de datos, de forma objetiva, y clasificar los casos según una escala de gravedad cuantificable. Y voilà, hemos dado con el candidato ideal, la IA. Capaz de analizar ingentes cantidades de datos y de tomar decisiones objetivas.

Otro problema que mencionas es que solo los ricos pueden reclamar a la Audiencia Nacional. Eso es completamente falso, en España se ofrece un servicio de asistencia jurídica gratuita a aquellos que acrediten carecer de recursos económicos, por lo que los ricos no son los únicos que pueden reclamar.

En conclusión, la IA podría ser una herramienta de gran ayuda en los juicios que eliminase la enorme lista de espera y retrasos que hay en el sistema judicial español. Es decir, sería un sistema que funciona.

Un saludo, Daniel Martí

Buenos días Daniel,

Al igual que con la corrección de mi mal redactada despedida, tienes razón en la respuesta que has dado a mi mensaje. Después de leerlo, me da la sensación de que ambos tenemos una opinión no tan distinta y que nuestro debate se basa en malinterpretaciones mutuas.

En mi contestación anterior, mi queja se debía a la propuesta de automatizar los casos cotidianos por IA. Esta propuesta podría incrementar la desconfianza hacia el sistema al aparecer (o aparentar) una desigualdad, no tanto en la importancia y la gravedad de los casos (características necesarias) sino más bien en la gestión y el trato que percibiría la población, afectando a la opinión pública.

No niego que la IA sea una herramienta que facilite el trabajo, pero sí, que sustituya a los humanos y que efectúe por si sola procedimientos completos sin supervisión. Si se aplicara como tú dices, una IA que recopile y clasifique los datos de los casos, pero también, personas encargadas de analizarlos y verificarlos, se podría crear efectivamente, un sistema que funciona y solucione ese problema de las listas de espera que tanto sufre el sistema español.

Por último, quiero aclarar que yo no he dicho en ningún momento que solo se reciban apelaciones de gente rica, este tipo de apelaciones son muchas, pero no todas. Usé este dato porque aunque el ciudadano normal también puede reclamar, no tiene el respaldo de abogados de prestigio y, puede que incluso, empresas privadas en su defensa.

Te doy las gracias por este intercambio de opiniones, Rodrigo Silva.
Colegio Blanca de Castila.

[Daniel-4111-eOke7D]

Hola Rodrigo,
tienes toda la razón, como bien dices, te he malinterpretado, pero creo que ya te he entendido bien. Si no me equivoco, tu preocupación acerca de incluir las IAs en el sistema judicial son: el trato que recibiría la población el cual podría afectar a la opinión pública y a la confianza sobre el sistema, y los posible errores que podría cometer la IA al estar sin supervisión.

Después de darle un par de vueltas, creo que una posible solución podría ser la siguiente. Podríamos tener un sistema mixto, donde un solo juez o fiscal tomaría decisiones con la ayuda de una IA, la cual le aconsejaría, mientras que el juez o fiscal la supervisa y corrobora los datos que le proporciona.

Esta es una posibilidad que se me ocurre para aprovecharnos de esta nueva tecnología y sus avances en el ámbito judicial.

Un saludo, Daniel Martí.

[Mar-1650-qQ1o5T]

Finalmente tenemos el caso del coche autónomo.

Aquí voy a ser breve. Al igual que el piloto automático en los aviones, lo considero un simple avance tecnológico sin mayor dilema ético. Es una herramienta que facilita nuestra vida, posiblemente en un futuro haga más segura la conducción, y no representa ningún riesgo en el desarrollo mental o físico del ser humano. es por esto que estoy completamente a favor del desarrollo de los coches con sistema de conducción autónoma.

Hola Daniel,

En respuesta a tu opinión sobre el coche autónomo, me parece que este plantea más problemas de los que se pueden considerar inicialmente. Es verdad que es necesario el avance en este sector, y que puede beneficiarnos ampliamente. Sin embargo, plantea un dilema ético que debe considerarse. En el artículo, plantea el caso de que se de a elegir a la IA entre atropellar a un niño o a una abuela. Se plantea un dilema ético parecido al del tranvía, pero se pone la decisión en manos de una IA.

Pero yo planteo otro problema, ¿y en el caso de elegir entre el conductor y un grupo de peatones? Para muchos, la solución lógica sería salvar el mayor número de vidas. Entonces, la IA debería elegir salvar a los peatones. Pero ¿en realidad estamos dispuestos a montarnos en coches que antepongan la seguridad de otros antes que la nuestra? Por otro lado, si las IAs estuvieran programadas para salvar en todos los casos a el conductor, podría dar lugar a tragedias.

Aunque una realidad en la que todos los coches sean conducidos automáticamente cada día está más cerca, es importante considerar estos problemas morales.

Un saludo

Mar

[ngela-1650-VRz78H]

Buenos días, soy Daniel.

Ángela, estoy de acuerdo en que la IA y su "libertad creativa" puede crear graves conflictos éticos y morales, los cuales deben tratarse lo antes posible, antes de que se escapen de nuestras manos y no podamos dar marcha atrás.

El primer tema que trata el artículo que nombras el sesgo de la IA. En este artículo en concreto se hace referencia a las IA de los motores de búsqueda. Lo que critica el artículo es el sesgo de género que existe entre los resultados de búsqueda masculinos y femeninos para un mismo término, poniendo el ejemplo de la palabra colegial/la.
Como dice el propio artículo, los motores de búsqueda enseñan los resultados que obtienen más clicks, ya que los consideran mejores y más atractivos para el usuario. Es cierto que existe un sesgo de género, ya que los resultados de búsqueda son diferentes. Sin embargo, ese sesgo no tiene porque ser malo. Al fin y al cabo, o por lo menos este es mi punto de vista; en un motor de búsqueda, tu objetivo es encontrar los resultados relacionados con el término buscado que más te interesan, y si esos son diferentes atendiendo al género, realmente no le causan ningún problema al usuario final.
Su funcionamiento (los motores de búsqueda basados en IA), es muy similar al de los algoritmos de las redes sociales, como Youtube. Si hay un resultado, enlace o video que te va a interesar más que otro, ¿por qué no mostrártelo? Otro debate sería el de si las personas deberíamos sexualizar ciertas cosas, como la palabra colegiala que ponen como ejemplo en el artículo.

Buenas noches a todos
Hola Daniel, no estoy muy de acuerdo con tu punto de vista acerca del sesgo. No creo que este se puede justificar con el simple hecho, de decir que al final es una herramienta para mostrarte lo que más te interesa. El sesgo en la IA va muchos más allá, y puede causar, en un futuro cuando la IA llegue incluso hasta las consultas médicas, un grave problema si no lo solucionamos.

Poniendo un ejemplo, puedes buscar estudios de enfermedades en los que la mayoría de los participantes son hombres blancos. Esto puede provocar un sesgo enorme en los datos que recopilan los modelos de Machine Learning, y provocar con el tiempo fallos en los futuros diagnósticos de enfermedades por parte de la IA en mujeres. Y este no es el único caso de problema que puede haber si no tratamos de solucionar el sesgo en la IA tanto racial, de género... Si queréis ver algunos más os dejo un enlace interesante que trata de ello.

https://www.proconsi.com/blog/los-sesgos-en-la-inteligencia-artificial-desentranando-la-ia

[Leia-1866-R0uR4W]

Hola Angela, buenos días.
He leido atentamente tu comentario y el articulo que has adjuntado. Creo que la IA como se menciona en la unesco, hay parametros que no estan del todo delimitados o definidos eticamente (por llamarlo de una manera) como el ejemplo de Colegiada y colegial.
Es evidente que la IA no es una persona, por lo que no tiene moral y etica social, pero tampoco soy una experta sobre la tecnologia para poder saber como se podrían hacer esos cambios. ¿Alguna idea, compañeros?
 

[ngela-1650-VRz78H]

Buenos días:
Hoy viendo las noticias ha aparecido una noticia que me ha parecido bastante trascendental y me gustaría compartirla.

Resulta que la UE a aprobado la primera regulación internacional de la IA. En esta ley se pueden ver 4 niveles de riesgo según como respete los derechos humanos. Esta normativa será implantada en todos los países de la UE a partir de 2026.

Estos 4 niveles constan de:
-Riesgo mínimo: Afortunadamente la mayoría de modelos de IA pertenecen a este grupo, porque siguen de forma correcta los códigos de conducta impuestos.

-Riesgo específico para la transparencia: Se les exigirá una serie de obligaciones que deberán cumplir.
-Alto riesgo: dentro están los sistemas que vulneren la seguridad o derechos de los ciudadanos.
-Riesgo inadmisible: Los sistemas que entran en este grupo quedan totalmente prohibidos, ya que significa que no respetan los derechos humanos.

A mi parecer es una noticia de verdadera importancia, ya que es un gran paso para que se sigan respetando siempre los derechos fundamentales de las personas.

https://www.antena3.com/noticias/tecnologia/que-regula-nueva-ley-inteligencia-artificial_2024031365f187b8ab79d800019e341e.html

Espero que os pueda servir.