El SERNAC dictó una Circular que se
adelanta a los eventuales riesgos y establece principios respecto al resguardo
de los derechos de los consumidores en el uso de herramientas de Inteligencia
Artificial (IA).
El Director del SERNAC, Lucas Del
Villar, advierte que la circular se justifica en el hecho que la utilización de
la IA puede profundizar asimetrías en perjuicio de los consumidores, por
resultados injustos o arbitrariamente discriminatorios, la eventual falta de
transparencia en las condiciones en que se ofrecen los servicios o en el
tratamiento de los datos personales.
La Inteligencia artificial es una
herramienta que hoy es parte de la vida cotidiana sin que los consumidores
necesariamente se percaten. Por ejemplo, cuando una aplicación recomienda ver
ciertas películas o música, cuando se autocompleta un texto que estamos
escribiendo, cuando usamos asistentes de voz, navegadores o recibimos
notificaciones en redes sociales que a veces parecen “adivinar el pensamiento”.
Se trata, por tanto, de un sistema
que, en base a distintos objetivos, puede hacer predicciones de comportamiento,
recomendaciones o influir sobre decisiones de las personas en entornos reales o
virtuales.
La autoridad explica que los sistemas
que se basan en estas tecnologías, bien proporcionados y utilizados, pueden ser
beneficiosos para los consumidores, al permitir la automatización de ciertas
tareas y reducir costos de contratación, o posibilitar la firma de contratos u
ofertas que se basen en las preferencias, necesidades y capacidades
individuales de las personas, permitiendo una atención personalizada.
No obstante, advierte también que
existen ciertos riesgos relacionados con las asimetrías de información y de
poder de negociación, que podrían traer como consecuencia riesgos de abuso y
manipulación; la generación de resultados arbitrariamente discriminatorios, la
ausencia de transparencia o el inadecuado manejo de los datos personales.
Por ejemplo, mediante del desarrollo
de algoritmos de autoaprendizaje extraídos en del análisis de una gran cantidad
de datos, es posible determinar patrones de conducta y analizar los hábitos de
las personas, lo que facilita que se exploten intencionalmente sus sesgos o se
desarrollen prácticas comerciales como los “dark patterns” que pueden empujar a
los consumidores a tomar decisiones no siempre
en su beneficio.
Adicionalmente, como riesgo en la
utilización de sistemas de Inteligencia Artificial, los consumidores pueden ser objeto de
acciones o decisiones adoptadas por dichos sistemas que sean difíciles de
entender o simplemente no se puedan rebatir.
Al respecto, la Circular instruye a
las empresas a respetar la Ley del Consumidor en cuanto a la entrega de
información efectiva y transparente; el resguardo de la libertad de elección y
la seguridad en el consumo; la prohibición de toda discriminación arbitraria, y
la protección de los datos personales de los consumidores.
En este sentido, las empresas deben
presentar a los consumidores información clara y comprensible respecto del
objetivo o finalidad de estos sistemas de IA; su injerencia en el proceso de
contratación o de ejecución del contrato; las condiciones mínimas bajo las
cuales funciona, y la naturaleza de la interrelación del sistema de IA con el
consumidor, en caso que corresponda.
En particular, las empresas deben
informar de forma transparente y oportuna si el consumidor está interactuando
con un sistema de IA y no con un ser humano (junto con las implicancias
asociadas) y los datos personales que son tratados por el sistema, incluyendo
los tipos de tratamiento que tienen lugar para llegar a una decisión por parte
del sistema de IA.
Asimismo, como práctica general, las
empresas no pueden usar esta tecnología para manipular y perjudicar a los
consumidores.
Respecto de la protección de datos
personales, todo tratamiento de información de carácter personal debe
sustentarse en una base legal y contar con el consentimiento del titular, que
este consentimiento sea válido, informado y expreso (otorgado por escrito),
pudiendo el titular los datos revocar esa autorización.
Los datos personales deben ser
exactos y estar actualizados, así como ser eliminados y cancelados cuando su
almacenamiento carezca de fundamento legal o cuando haya caducado. Asimismo,
los datos erróneos, inexactos, equívocos o incompletos deben ser modificados.
Del Villar concluye señalando que espera “que las empresas utilicen
estos sistemas respetando la ley y promoviendo buenas prácticas porque eso
repercutirá en una mayor confianza en el mercado y en un crecimiento más
eficiente de estas tecnologías”.
Este material se enmarca en el cumplimiento del Plan de
Acción de la Política Nacional de IA del Ministerio de Ciencia, Conocimiento,
Tecnología e Innovación (MinCiencia) que se publicó en octubre de 2021, con el
objetivo que nuestro país cuente con una estrategia nacional para anticiparse a
sus efectos. Lo anterior, particularmente en el objetivo de fomentar un uso de
IA en el comercio digital transparente, no discriminatorio y respetuoso de las
normas de protección de datos personales (objetivo 3.3.1. de dicha política
nacional).
0 Comentarios