Riconoscimento delle emozioni e marketing personalizzato

L’articolo esamina i sistemi di riconoscimento delle emozioni e il loro utilizzo nel campo della pubblicità personalizzata adottando la prospettiva del diritto dell’Unione europea. L’identificazione delle emozioni di un individuo attraverso l’uso di tali sistemi consiste in una forma di profilazione basata sull’analisi di dati relativi a caratteristiche biologiche umane, da cui è possibile estrarre informazioni personali, comprese informazioni ‘sensibili’. Forme di trattamento di questo tipo mettono in crisi il concetto di ‘identità’ e ‘identificazione’, in particolare quando si adottano tecniche che appaiono lontane da quelle in uso nelle tecnologie di identificazione biometrica. L’intera gamma di disposizioni e principi desumibili dal GDPR attinenti ai c.d. trattamenti automatizzati, compresi i principi di trasparenza, accuratezza e correttezza, si applicano al riconoscimento delle emozioni. L’analisi prende in considerazione anche il punto di vista della direttiva 2005/29/CE e delle disposizioni sulla pubblicità online introdotte dal Regolamento europeo sui servizi digitali. L’articolo analizza infine la portata della definizione di sistemi di riconoscimento delle emozioni nel Regolamento europeo sulla commercializzazione, immissione in servizio e uso di sistemi di intelligenza artificiale, che considera questa tecnologia come parte della ‘seconda generazione’ di tecnologie biometriche volte a caratterizzare gli individui piuttosto che a identificarli. Il suddetto regolamento classifica i sistemi in oggetto come sistemi di IA ad alto rischio. Inoltre, stabilisce una forma di coordinamento tra le autorità incaricate della supervisione delle pratiche di utilizzo di tali sistemi di IA e le altre autorità di controllo nazionali e dell’UE, contribuendo così a migliorare i meccanismi di enforcement previsti in altre aree del diritto dell’UE. This article examines emotion recognition systems and their use in the field of personalised advertising from the perspective of EU law. The identification of an individual’s emotions through the use of an emotion recognition system is a form of profiling based on the analysis of data on human biological characteristics, from which personal information, including ‘sensitive’ information, can be extracted. Forms of processing of this kind undermine the concept of ‘identity’ and ‘identification’ established by the GDPR, particularly when adopting techniques that appear far removed from those in use in biometric identification technologies. The full range of provisions and principles laid down by the GDPR for automated processing, including the principles of transparency, accuracy and fairness, apply to emotion recognition. The analysis also considers the point of view of Directive 2005/29/EC and the provisions on online advertising in the Digital Services Regulation. Finally, the article analyses the scope of the definition of emotion recognition systems in the EU Regulation laying down armonised rules on the placing on the market, putting into service and use of artificial intelligence systems, which considers this technology as part of the ‘second generation’ of biometric technologies aimed at characterizing individuals rather than identifying them. This regulation classifies these systems as high-risk AI systems. Moreover, it establishes a form of coordination between the authorities in charge of supervising the practices of using such AI systems and other national and EU supervisory authorities, thus helping to improve the enforcement mechanisms provided for in other areas of EU law.