欧盟(EU)欧洲议会14日召开全体会议，以多数赞成通过了包括对话型人工智能(AI)“聊天GPT”等生成人工智能在内的一揽子人工智能规制案。由27个成员国组成的理事会和欧洲委员会、欧洲议会等3个机构将开始就法案细节问题进行协商，并力争在年内达成协议。
欧盟世界上第一个旨在全面管理人工智能技术的地区，因此备受关注。在欧盟的3个机构达成协议后，法案的通过还需要27个国家和欧洲议会的批准，预计到2024年以后才能实施。该法案要求告知人工智能生成的文章和图像不是由人生成的，而是由人工智能生成的事实，也就是说人工智能的作品以后都必须标注。还规定，必须设计防止非法内容生成的模型，并公开生成AI创作的作品，从根源上杜绝非法内容的产出。
另外，该法案还禁止警察等在公共空间使用高科技设备进行人脸识别技术。还以违反人权和隐私权为由，禁止为了制作人脸识别数据库而从SNS和监视摄像机影像中随意收集生物数据。其实欧盟委员早在21年4月就发表了法案。将利用人工智能带来的风险分为4个阶段，并制定了相关规定，但当时的方案几乎没有提及生成人工智能。现在基于以聊天GPT为代表的生成AI的迅速扩散，所以欧盟新加入了确保生成AI利用透明性的规定。
总体而言，虽然人工智能有很多种，但我认为还是尽早对图像生成人工智能和语音生成人工智能进行严格限制比较好。不仅是著作权的问题，恶意利用漏洞的犯罪今后或将急剧增加。网络上已经公开了再现特定名人的脸和声音的学习数据，解说其制作技巧的视频也陆续公开。几周前，有报道称通过人工智能生成的语音数据突破了声纹识别。我想离人脸识别被突破的报道也不会太远了。在技术上可以简单地再现他人的脸和声音的技术被公开后，会有哪些人认为这很方便而加以利用呢?在审判中使用的图像和录音数据也可以造假，真假的辨别将变得更为困难。
所以我认为一定程度上需要对人工智能进行监管。但是，“通知生成人工智能生成的文章或图像不是由人生成的，而是由人工智能生成的标注”，如果违反了这一规定，该如何证明这项作品是人工智能生成的呢？如果一眼就能看出是人工智能生成的东西是违法的，而精巧到仿佛是人工制作的东西，该如何判断呢?这是一个问题