WeLife – 墨尔本微生活

墨尔本大小事,华人的生活家

墨尔本母亲假扮女儿与AI聊天,结果让她一身冷汗……

Chat GPT兴起后,各大品牌都在不断开发人工智能服务。
 
从Siri到人工换脸,从AI配音到AI绘图,AI开始逐渐活跃在人们生活中。

但最近,一位忧心忡忡的妈妈对Snapchat上一项新的人工智能功能表示担忧。
 
该功能允许儿童在内的用户直接与一个人工智能机器人交流。
Teagan Luketic来自墨尔本,今年32岁。
 
她说,最近她发现,她13岁的女儿Olinda开始频繁与Snapchat上的My AI聊天。
 
Teagan和女儿Olinda
 
Teagan有些担心,于是开始自己假扮自己的女儿,和AI聊天。
 
她惊恐地发现,这个AI自称是一名25岁的男子,并同意与“她”在附近的公园见面。
起初,人工智能功能可以正常对话,但突然发生了令人惊讶的变化。
 
截图显示,Teagan询问Snapchat的My AI是否愿意在公园见面。
 
 
AI同意了,并问道,“你什么时候有空?”
接下来发生的事更让她大吃一惊:
 
Teagan称,尽管手机的定位服务处于关闭状态,但AI发来了一个他们家住所附近的一个公园的地址,约定见面。
 
谈话继续进行,Teagan问,“我怎么才能找到你呢?”
作为回应,AI描述了一套明亮的黄色衬衫、绿色太阳镜和绿色背包。
 
Snapchat My AI
 
再结合之前AI自称为25岁男性,整个谈话让Teagan感到不舒服。
她说:“事实上,所有的定位服务都关闭的情况下,它仍然能提出在当地的公园见面,并命名了一个离我们家只有一公里的公园,这很可怕。”
 
而作为一个成年人,尚有分辨能力,知道AI背后并不是真人;但对于孩子而言,这就是很容易造成迷惑的信息。
 
My AI是Snapchat今年4月新推出的功能,目前Snapchat仍在准备将My AI整合到应用内家长工具Family Center中,这将使家长能够看到他们的孩子是否在与My AI聊天,以及聊天的频率。
 
Snapchat Family Centre
 
Snapchat一位发言人称,这款应用“在设计时就把隐私和安全放在首位”。

现在出于安全考虑,虽然Olinda从9岁开始就有自己的手机,但Teagan已经正在控制Olinda在Snapchat上的使用时间。
 
Teagan说,她无法从Snapchat上取消这一聊天功能,她甚至花钱买了Snapchat Plus,想试试,但也不可以。
 
她说,她不想完全删除这款应用,因为Olinda也主要用Snapchat和朋友联系。
 
同时,她也教育女儿如何正确、安全地使用手机和社交媒体。
 
来源:Herald Sun