（巴黎7日讯）马斯克旗下人工智能（AI）聊天机器人Grok日前将法新社摄影记者在加沙拍摄的一张瘦骨嶙峋女孩照片，误判为7年前摄于也门，学者称这凸显了AI工具的局限性。
法新社报导，Grok声称这张照片拍摄于2018年10月，画面中为7岁的也门女孩胡笙（Amal Hussain）。但事实上，该影像是本月2日在加沙城拍摄，照片中的女孩是现年9岁的道瓦斯（Mariam Dawwas），当时她被母亲穆达拉拉（Modallala）抱在怀里。
这项错误的回复结果在网络社群广泛流传，法国亲巴勒斯坦的左翼国会议员卡隆因转传该影像，被指控散播以巴战争相关的不实资讯。
体重只剩9公斤 牛奶得到不易
这场战争是由巴勒斯坦伊斯兰抵抗运动（哈马斯）于2023年10月7日攻击以色列所引发。穆达拉拉说，女儿没有已知的疾病，战争爆发前，道瓦斯体重有25公斤，如今只剩下9公斤，唯一能改善她病况的营养就是牛奶，但并非随时都能取得。
随著网络使用者日益依赖使用AI验证图像，误判加沙饥童照片拍摄地点的事件，凸显了信任Grok等工具的风险，因为该技术远非百无一失。
Grok：不散播假讯息 已核实资料
面对真实性的质疑，Grok说：“我不会散播假讯息，我的回复是根据已核实的资料来源。”
Grok最终虽承认出错，但隔日回答进一步询问时，又再次声称该照片来自也门。
撰写过AI专书的科技伦理学者迪斯巴赫表示，Grok的错误凸显了AI工具的局限性，AI系统像“黑盒子”般难以测透，使用者难以理解其回复依据与资讯排序逻辑。
学者：受设计者影响 反映特定偏见
他指出，每个AI工具都受到训练资料与开发者设计的指令影响，可能反映特定偏见。
迪斯巴赫认为，Grok由马斯克创办的新创公司xAI开发，其表现出“与马斯克个人意识形态高度一致的强烈偏见”。马斯克曾是美国总统特朗普的亲密盟友，也是极右派代表性人物之一。
迪斯巴赫指出，要求聊天机器人确定照片来源使其脱离了应有的角色，“AI不是为了说出真相而设计，而是用来生成内容，不论是真是假”。
他说：“你必须把它看成是一个‘友善的病态说谎者’，它不一定会说谎，但随时可能说谎。”
