L’expert en ciberseguretat, Rafa Suñer ens parla hui sobre l’entrada en vigor de la nova llei de la Unió Europea sobre regulació de la Intel•ligència Artificial dins de les empreses. Suñer ens explica que la IA ja és una realitat i que el seu ús ètic i correcte és ja una obligació reconeguda per la UE.
L’aprovació d’esta reforma s’ha vist accelerada per diversos casos d’ús il•legítim d’IA en grans empreses. Tant OpenAI com Anthropic, creadors de ChatGPT i Claude respectivament, han reportat casos on la IA actuava de forma autònoma i tenia un comportament incorrecte i preocupant.
El problema residia en el prompt emprat. El prompt és la instrucció que se li dona a la Intel•ligència per fer la seua tasca. En aquest cas, el prompt era una petició tan oberta com “fes el que necessites per aconseguir-ho”, comanda que la IA va interpretar com carta lliure per obtindre informació i dades de forma il•legítima.
La nova normativa de la UE suposa la primera legislació internacional en matèria d’IA. La llei distingix entre empreses creadores d’Intel•ligència Artificial i empreses distribuïdores, aquelles que fan ús d’esta.
Esta llei entrarà en vigor el 2 d’agost, sent l’organisme regulador en Espanya AESIA, la Agència Espanyola de Supervisió d’Intel•ligència Artificial. A partir de la seua promulgació, les empreses estaran obligades a notificar tots els seus usos d’IA, així com a formar als treballadors en un ús professional i correcte d’esta eina, tot per garantir una transparència total i evitar usos dolents.
A SG Ciberseguridad ofereixen el servei ‘Governanzia’, una app on les empreses poden disposar de llistats de verificació, formació sobre l’ús d’IA i altres ferramentes destinades a garantir el compliment de la llei. Esta app compta amb una demo gratuïta on durant un temps limitat les empreses podran gaudir d’estos serveis i posar-se al dia amb la normativa.
NOTÍCIES
