日前，时事评论员吴启聪牙医被冒名开设群组，声称教授股票投资。吴启聪在其脸书和YouTube频道澄清，他从未提供股票贴士，也不会成为“股票Guru”，并表示诈骗分子利用人工智能生成视频，冒用名义开设群组，教授股票购买和分享贴士。
人工智能（AI）的崛起，为社会带来了前所未有的变革。从医疗、教育到商业，AI的正面应用已深入我们的日常生活。然而，科技的发展总是双刃剑，一旦落入不法之徒之手，就可能成为诈骗、操纵舆论，甚至侵犯个人隐私的工具。
在《连接：从石器时代到AI纪元》中，作者哈拉瑞剖析了信息网络对人类社会的塑造，尤其是在人工智能时代所带来的挑战。他强调，信息与权力密不可分，而信息网络不仅塑造了过去的社会结构，如宗教、国家和市场体系，也在这个时代加剧了虚假信息的扩散和权力的不平衡。
人工智能的崛起，使得信息的流动不再仅是人类的自主行为，而是由算法和机器自主运作。这既可以带来效率提升，但也将对民主、隐私和公平性造成深远影响。
近年来，深度伪造（Deepfake）技术的泛滥以及社交媒体诈骗广告的猖獗，已成为全球性问题，大马同样无法置身事外。
Deepfake技术，最初作为娱乐和创意工具，用于制作电影特效或修复历史影像。然而，如今Deepfake已被滥用至令人不寒而栗的地步。近期，我们看到不少艺人和公众人物的脸被移花接木，甚至合成至色情影片中，在不知情的情况下成为“AV明星”。
更具威胁的是，Deepfake已被用于政治抹黑。在选举季节，虚假视频可能被制造并传播，以影响选民的观感。想象一下，一段伪造的政治人物“言论”视频在社交媒体上疯传，即使事后被澄清，受众的第一印象已构成。假新闻已经够可怕了，现在我们还得面对假视频，这将使得“眼见为实”成为过去式。
除了Deepfake，社交媒体诈骗广告也是当前网络空间的一大毒瘤。许多公众人物的身份被盗用，包装成投资大师或理财专家，鼓吹所谓的“一夜暴富”计划。国内的例子比比皆是，如行动党副主席倪可敏等政治人物的头像被用于广告，声称能教人如何“月入过十万”。问题来了，如果政治人物若真的有这种赚钱能力，为什么还要日夜操劳，任劳任怨？
诈骗分子不仅盯上政客，就连金融界的巨擘也未能幸免。前国家银行总裁丹斯里洁蒂的名字也被盗用吸引投资者上钩。此外，网红和企业家也成为目标，像华阳茶室老板陈建丞、拿督雷智雄博士，他们常出现在脸书的“付费广告”中，以假乱真。
尽管受害者多次举报，这些广告往往在被下架不久后，就以不同的页面重新上线，内容一模一样。脸书显然在诈骗广告问题上缺乏有效监管。在这种情况下，我们不得不问，脸书究竟是不是在默许骗局？
面对这些问题，脸书母公司Meta的态度令人失望。政府早已提出社交媒体内容监管框架（licensing framework），但Meta迟迟不愿签署，反而宣布削减事实查核员（fact-checkers）。 这意味著，未来在脸书上，我们将看到更多未经查证的内容、更猖獗的诈骗广告，以及更多深伪假信息。
一些国家已经开始对Meta施压，例如欧盟要求该平台对Deepfake内容进行标记和限制，印度则要求平台更严格审查金融广告。在这种情况下，大马政府是否应考虑更强硬的监管措施？
科技发展无法逆转，AI的应用只会越来越广泛。面对Deepfake和诈骗广告的泛滥，政府、企业、社交媒体平台以及公众都需要承担责任。政府必须尽快制定更严格的AI监管政策，社交媒体平台必须提升内容审查能力，而公众也需要提高警觉，避免成为诈骗的受害者。
正如哈拉瑞所言，在信息过载的时代，“真相”正在被算法重塑。如果不加以审慎管理，人工智能的决策权可能集中在少数科技寡头手中，加剧社会不公。因此，如何在推动技术发展的同时，确保信息的真实性和安全性，将是人类社会未来亟待解决的关键问题。
医生，自由撰稿人。
