Hola Teresa,

Primero, le quería agradecer por esta interesante aportación.

Es verdad que la IA tiene problemas éticos, pero es lógico que va a tener un gran impacto en la justicia.

Por ejemplo, se desea emplear dicha tecnología para tomar decisiones judiciales, que utilicen el aprendizaje automático, que tiene como objetivo influenciar la toma de decisiones judiciales. Aún así, no se sabe si estas serían más justas o si está realizando lo correcto. ¿Cuál es vuestra opinión? Cosas similares han sido empleadas por países como Estados Unidos, para decidir sobre la prisión preventiva, utilizándola para calcular los riesgos y “puntúa” el acusado según las probabilidades de cometer otra vez algún delito.  Este tipo de programas también puede afectar negativamente al juez, por ejemplo él piensa que debería darse la libertad, pero el puntaje objetivo es alto. ¿Qué haríais en esta situación? ¿Está la IA complicándonos la vida? Hay que tener en cuenta que uno de los objetivos de la IA es facilitar nuestra vida.

En mi opinión, dicha aplicación es útil para encontrar más información sobre el delito, y obtener una opinión y recomendación hecha que está principalmente basada en datos. Pero, ¿Podría esta recomendación ser contradictoria y sesgada?

Link: https://www.unodc.org/dohadeclaration/es/news/2019/06/artificial-intelligence_-a-new-trojan-horse-for-undue-influence-on-judiciaries.html

Espero vuestras respuestas,

¡Hasta la próxima!

Laura

Buenas, Laura

Gracias por tu reflexión tan interesante. Aunque la idea de utilizar el aprendizaje automático para ayudar en la toma de decisiones judiciales es intrigante,  también plantea preocupaciones sobre la imparcialidad y la equidad del proceso. Como mencionas, existe el riesgo de que los algoritmos utilizados en estos sistemas estén sesgados o produzcan resultados injustos. Por esto, es crucial que examinemos de cerca cómo se entrenan y validan los algoritmos.

En cuanto a la situación que planteas sobre el juez que se ve influenciado por el puntaje generado por el sistema de IA, creo que es un dilema complejo. Por un lado, la IA puede proporcionar información valiosa y análisis de datos que pueden ayudar al juez a tomar decisiones más informadas. Sin embargo, también es importante que el juicio del juez no sea completamente influenciado por el algoritmo, y que se le deje espacio para utilizar su propio criterio al considerar otros aspectos importantes del caso.

Aunque es cierto que la IA puede ser una herramienta útil en el sistema judicial, creo que hay que utilizarla con precaución y siempre estar atentos a sus limitaciones y sesgos. ¿De qué manera se podría entrenar a una IA equitativa y transparente?

Un saludo

Mar

Buenos días, aprovecho el último día para poner esta interesante noticia.
https://www.philips.es/a-w/about/news/archive/standard/news/blogs/2022/20221124-10-real-world-examples-of-ai-in-healthcare.html
Suerteee

Buenas,

Hay una parte de ética y moral que no estamos teniendo en cuenta.
Si bien es muy interesante que con la ayuda de la IA se puedan conocer estos datos tan intrigantes, no sé hasta qué punto es ético poder predecir cuanto tiempo vivirá una persona, incluso si se tiene su consentimiento.
¿Podría esta información cambiar radicalmente la forma en las que las personas vivirían sus últimos años? ¿Para bien o para mal?

Me gustaría poder debatir esto con algún/a expert@ en ética.

Un saludo,
Marc Gomis,
Escola Pia de Sarria Calassanç, Barcelona.

Buenos días:
Hoy viendo las noticias ha aparecido una noticia que me ha parecido bastante trascendental y me gustaría compartirla.

Resulta que la UE a aprobado la primera regulación internacional de la IA. En esta ley se pueden ver 4 niveles de riesgo según como respete los derechos humanos. Esta normativa será implantada en todos los países de la UE a partir de 2026.

Estos 4 niveles constan de:
-Riesgo mínimo: Afortunadamente la mayoría de modelos de IA pertenecen a este grupo, porque siguen de forma correcta los códigos de conducta impuestos.

-Riesgo específico para la transparencia: Se les exigirá una serie de obligaciones que deberán cumplir.
-Alto riesgo: dentro están los sistemas que vulneren la seguridad o derechos de los ciudadanos.
-Riesgo inadmisible: Los sistemas que entran en este grupo quedan totalmente prohibidos, ya que significa que no respetan los derechos humanos.

A mi parecer es una noticia de verdadera importancia, ya que es un gran paso para que se sigan respetando siempre los derechos fundamentales de las personas.

https://www.antena3.com/noticias/tecnologia/que-regula-nueva-ley-inteligencia-artificial_2024031365f187b8ab79d800019e341e.html

Espero que os pueda servir.

¡Hola a todos!

Este debate me parece interesantísimo. En cuanto a la primera pregunta sobre como está acelerando la IA los avances en exploración espacial, creo que no es una pregunta de cuanto lo está acelerando, sino de cómo de esencial es. Por ejemplo actualmente la mayoría de rovers que se encuentran explorando Marte usan IA para su navegación de manera autónoma, y es algo crucial, porque manejarlos desde la Tierra sería una labor imposible teniendo en cuenta que la señal desde Marte tarda en llegar 8 minutos y otros 8 minutos de vuelta para ser receptada por el rover.
Por otro lado en cuanto a la pregunta de las cuestiones legales. En mi opinión creo que es necesario que se use la IA pero que siempre exista una supervisión humana, ya que aunque pueda parecer que no, la IA también puede confundirse. Y, por otro lado, la pregunta que plantea Rodrigo-1650-kpnA4K : ¿De verdad existe una forma de regulación que pueda favorecer los intereses de los gobiernos, empresas privadas y científicos de todo el mundo?
Creo que nunca existirá una forma de regulación perfecta donde se pueda favorecer por igual a gobiernos, agencias, empresas y científicos, porque siempre existirán confrontaciones y limitaciones, pero estoy seguro de que como humanidad seremos capaces de llegar a algo que nos pueda favorecer sin desacelerar los procesos de investigación con IA.

Un saludo,
Pablo