近日，森美兰芙蓉一所中学爆出人工智能（AI）滥用事件：一名高中生涉嫌利用人工智能，将同校逾300名女生的日常照片合成为裸照，并涉嫌在网上传播。这不仅伤害受害学生及其家庭，也为科技伦理与法律监管敲响警钟。这类案件自去年以来已发生数宗，凸显校园AI滥用问题不容忽视。
随著AI日益普及，制作虚假影像变得更加容易。受害女生不仅面对隐私被侵犯的痛苦，还可能遭受同学嘲笑、舆论偏见及长期精神压力。当受害者无助地问“为何没有人帮我”时，社会更应反思，现有机制是否足以保护她们。
这绝非无伤大雅的“学生恶作剧”，而是对个人隐私与人格尊严的严重侵犯。即使裸照是AI合成的，并非真实影像，也不代表伤害可以被轻视。照片一旦流传，受害者便可能面对羞辱、恐惧与社会压力。利用科技制造假象，绝不能成为施害者逃避责任的借口。
首相安华近期也在公开活动中强调，掌握AI等先进科技固然重要，但不能忽略道德伦理。科技有助提升国家竞争力、推动经济发展，却必须以道德与社会责任为基础。若只重视技术能力而忽略品德教育，再先进的工具也可能沦为伤人的利器。
要防止类似事件重演，首先，家庭与学校必须加强网络素养、道德教育及法律意识，让学生明白，未经同意制作或传播他人的私密影像，绝非炫耀技术或寻求刺激的手段。
其次，执法部门应依法调查相关案件，并加强与网络平台合作，及时移除违法内容，防止照片继续扩散。
同时，学校与教育局也应建立完善的通报、调查及心理辅导机制，优先保护受害学生，不能为了维护校誉而淡化问题，让受害者独自承受伤害。
此外，社会不应责怪受害者，更不能因为影像是合成的，就认为伤害无关紧要。我们必须让受害者知道，她们并不孤单，求助并不可耻，真正应该为行为负责的是施害者。
AI的价值，在于提升效率、拓展人类能力，而非成为伤害他人的工具。借用AI的英文缩写，它可以代表“Artificial Intelligence”（人工智能），却不应沦为“Automated Insult”（自动化侮辱）的工具。
科技越进步，人类越须坚守道德底线。唯有将伦理教育、法律责任与人文关怀融入科技发展的DNA，才能确保科技真正造福社会，而非成为践踏人类尊严的工具。
本文观点，不代表《东方日报》立场。
企管博士研究生。
