UE: Sí a la inteligencia artificial, pero humana

UE - Banderas

La Comisión de la UE quiere regular, promocionar y ampliar el uso de la inteligencia artificial, pero también restringirla en ciertos ámbitos, como el reconocimiento facial masivo.

La Comisión de la UE quiere regular más la Inteligencia Artificial (IA) en Europa. Pero, ¿qué es la IA? Son programas informáticos que evalúan grandes cantidades de datos y analizan, por ejemplo, las reacciones y el comportamiento de los usuarios. Hoy en día, la IA se puede encontrar en numerosas aplicaciones en tecnología médica, en automóviles autónomos, en reconocimiento facial, pero también en juguetes que hablan a los niños y reaccionan a sus respuestas.

“Sabemos que la IA se utiliza en muchas áreas comerciales, en transacciones financieras y programas informáticos, pero se puede lograr mucho más en áreas que ahora están al comienzo de su digitalización”, dice Hans De Canck, del Centro de Inteligencia Artificial de la Universidad Libre de Brusela (VUB). Existe un gran potencial en la agricultura o la medicina. “En la crisis de COVID, vimos que la IA tiene un gran impacto cuando se trata de acelerar el desarrollo de aplicaciones médicas y de diagnóstico” añadió. La comisaria de Competencia de la Comisión de la UE, Margrethe Vestager, también cree en el futuro de la IA. El proyecto que ella ha puesto en marcha se llama “Europa en forma para la era digital”.

“Generar confianza, gestionar riesgos”

Durante tres años, los funcionarios de Vestager han estado trabajando en la regulación del mercado para la IA. Este miércoles (21.04.2021) se presentaron sus propuestas en Bruselas. “Generar confianza en la IA solo es posible si podemos gestionar los riesgos”, explicó la política danesa.

Según Vestager, existen aplicaciones con riesgos limitados, como los chats bots, que se utilizan en la atención al cliente en grandes empresas. Estos deben saber que se están comunicando con una máquina que es capaz de aprender y no con una persona. Vestager considera muy arriesgadas las aplicaciones que deben evaluar o controlar el comportamiento humano. A este grupo, que debe estar estrictamente regulado, pertenecen los vehículos o programas autónomos que seleccionan a los solicitantes de empleo y evalúan sus currículos.

Supervisión humana

Hans De Canck, de la Universidad Libre de Bruselas, está de acuerdo en que las computadoras que evalúan currículos podrían tener prejuicios y tomar decisiones equivocadas. “Si se deja que un algoritmo haga esa selección, entonces este se basa en los datos de los mejores candidatos de los últimos 30 años”. El algoritmo siempre seleccionará a un hombre blanco y de 35 años, porque siempre fue así. Por tanto, hay que incorporar criterios éticos y humanos en los programas. En tales casos, la Comisión de la UE exige “supervisión humana” de los algoritmos. La comisaria de la UE Magrethe Vestager exige que no decidan solos en áreas críticas.

La Comisión de la UE quiere prohibir por completo el reconocimiento facial masivo en lugares públicos con la ayuda de inteligencia artificial. Esto contradice la visión europea de la protección de datos y los derechos fundamentales. Sin embargo, el reconocimiento facial debe seguir estando permitido en casos individuales durante controles fronterizos o durante procesamientos penales por parte de la policía. La Comisión de la UE quiere prohibir los “juguetes inteligentes” que podrían llevar a los niños a cometer acciones peligrosas. Sin embargo, sí se permite el software de aprendizaje o los llamados robots asistenciales que ayudan a las personas en asilos.

Empresas de IA en Europa

La UE quiere que los desarrolladores y proveedores de inteligencia artificial se establezcan en la UE, dijo Thierry Breton, comisionado de la UE y responsable de política industrial. “Tenemos que asegurarnos de que la UE no dependa de proveedores extranjeros o individuales”, sugirió Breton. Los datos industriales necesarios para la IA deben recopilarse, almacenarse y procesarse en la UE. En los próximos siete años, la UE quiere invertir 140.000 millones de euros en inteligencia artificial y digitalización, afirmó.

Enlace: Proposal for a Regulation on a European approach for Artificial Intelligence

DW