日本一25岁男子利用生成式AI制作恶意软件牟利，被判三年

近日，一名25岁的日本男子因使用生成式人工智能（AI）制作恶意软件而首次被判有罪。这是日本首例因滥用生成式AI而在刑事案件中被判刑的案例。

据警方调查，被告以前从事过SIM卡诈骗等“暗黑兼职”，在寻找更轻松的赚钱途径时，他结合自己对生成AI的兴趣，萌生了制作计算机病毒进行勒索的想法。

该男子在2023年3月隐瞒编写病毒的目的，向多个AI发出指令制作勒索型计算机病毒。他想利用生成AI编写的计算机病毒源代码，通过加密特定文件并使其无法访问，进而以解密数据为条件，要求受害者支付比特币作为赎金。

该男子坦言，自己缺乏IT专业技能，强调“没有生成AI的帮助，根本无法制作出这种病毒”。若非因涉及SIM卡诈骗被捕，该病毒很可能已被用于实际犯罪活动。

他被捕后供认不讳，表示自己想通过勒索病毒轻松赚钱。

东京地方法院于2024年10月1日对此案进行了公开审理，并最终判处该男子有期徒刑三年，缓期执行四年。

随着生成式AI的爆火，目前中国、美国、欧盟等国家和地区都在探索对AI的监管。2023年12月，欧盟达成了一项具有“里程碑意义”的协议 ——《人工智能法案》（AI Act）的临时协议，是该地区对 AI 最全面的监管协议。

今年2月，日本计划在2024年内出台一项监管生成人工智能（AI）技术的新法律，以监管生成式人工智能技术，特别是针对虚假信息和侵权等问题。

此外，日本还关注生成式AI在个人数据保护方面的应用。根据《个人信息保护法》（APPI），只有在数据主体同意的情况下，才能使用和访问个人身份信息。