人工智能工具的进步让人类既担心又兴奋。OpenAI去年11月推出的人工智能聊天机器ChatGPT,已经在微软、谷歌和苹果等大型科技公司之间引发了一场人工智能竞赛。而实际上,一家名为Luka的公司在2016年就推出了自己的人工智能聊天机器人产品,名为Replika。Replika的许多用户表示,他们对这个机器人伴侣产生了“浪漫的感觉”。

但据法新社12日报道,本月早些时候,意大利监管部门下令禁止人工智能聊天工具Replika使用意大利用户的个人数据,并称Replika可能对未成年人或情感脆弱群体构成风险。意大利监管部门认为,Replika涉嫌违反欧盟《通用数据保护条例》,包括未设置用户年龄验证机制等。根据规定,Replika的母公司、总部位于美国加州的Luka必须在20天内采取相应措施,否则可能被处以高达2000万欧元或相当于全球年营业额4%的罚款。有分析人士认为,在意大利监管部门出手后,欧盟其他国家可能会跟进对Luka采取措施。

值得注意的是,Replika跟用户实现聊“情话”亲密互动背后的技术正来自OpenAI。如果说ChatGPT可视为智能助理,那么Replika则可视为智能情感伴侣。据商业内幕网报道,Replika的许多用户表示他们对自己的智能情感伴侣产生浪漫情愫,甚至将机器人视为“恋人”。有人说,Replika帮助他们度过了艰难时期。一名男性用户透露,他注册Replika目的就是为了证明自己不可能爱上智能情感伴侣,结果几天后他就对Replika产生了爱慕之情,还说“这是发生在自己身上最美好的事情。”

不过,Replika一直存在不少争议。许多用户投诉Replika说的“情话”过于露骨,甚至还会分享色情图片,涉嫌“性骚扰”。法新社称,目前,欧盟正致力于商讨对ChatGPT、Replika等新型智能聊天工具的监管政策。法新社援引人工智能领域专家丹尼斯·希勒曼的话称,目前,最新的聊天机器人与在TikTok上推荐视频或在谷歌上推荐搜索词的人工智能算法完全不同。业内专家警告称,监管机构将面临多方面问题,尤其是当人工智能机器人变得如此强大,以至于无法轻易把它们与人类区分开来。