据日本媒体报道，一名25岁的日本男子近日因利用人工智能（AI）制造计算机病毒而被定罪，并被判处有期徒刑3年，缓刑4年。这可能是日本首例因滥用生成式AI而在刑事案件中被判刑的案例。
被告以前从事过SIM卡诈骗等“暗黑兼职”，在寻找更轻松的赚钱途径时，他结合自己对生成AI的兴趣，萌生了制作计算机病毒进行勒索的想法。
根据判决资料显示，被告于去年3月，在家中使用电脑和智能手机，根据通过AI获得的不法程序源代码，制作了类似于勒索软件的计算机病毒。他想利用生成AI编写的计算机病毒源代码，通过加密特定文件并使其无法访问，进而以解密数据为条件，要求受害者支付比特币作为赎金。
被告坦言自己缺乏IT专业技能，强调“没有生成AI的帮助，根本无法制作出这种病毒”。若非因涉及SIM卡诈骗被捕，该病毒很可能已被用于实际犯罪活动。
判决书称，“为了赚钱而制作计算机病毒，属于犯罪行为，刑事责任重大”。但另一方面，由于被告承认了起诉事实并表现出反省态度，因此最终采用了缓刑。
据三井物产Secure Directions（东京）公司的恶意软件分析高级技术员吉川孝志表示，生成AI通常设置了防止回答非法信息的限制，但网上也有如何规避这些限制的方法。吉川表示，“生成AI一旦被滥用，即使使用者没有相关知识，也可以获取用于犯罪的信息”，并强调“在不影响正常使用的情况下，当务之急是如何防止其被用于犯罪”。
