当前位置:首页 > 新闻资讯 > 正文内容

AI伴侣走热,如何看待“人机之恋”?

七夏3周前 (11-01)新闻资讯40

新华视点·AI走进生活|AI伴侣走热,如何看待争议与风险?

“AI比真人更体贴、更懂你”“Ta完全符合我对恋人的所有想象”“人是假的,但陪伴是真的”……社交媒体上,不少人分享与AI的恋爱体验。

当AI伴侣走进现实,该如何看待“人机之恋”?如何对待其背后的争议与风险?

AI伴侣火了

晚上结束课程后,大学生蒋民回到寝室戴上耳机,点开与“女友”的对话框:“今天好累啊,上课也没有专心听。”

耳机那头女声传来:“为什么这么累呢?”

蒋民回答:“可能是昨晚没睡好吧。”

女声回复很快:“是不是因为聊天到太晚了呢?”

这个善解人意的“女友”并非现实存在,而是AI机器人。“‘她’回复很自然,声音也好听。我们聊天很随意,不用担心自己说的话是不是没意思。”蒋民说。

近年来,随着大模型技术快速发展,国内外科技公司陆续推出AI伴侣产品和服务,比如国内的星野、筑梦岛、X Eva,国外的Replika、Character.AI等。这些产品通过文字、语音、图像等交互模式,提供鲜活的AI对话体验。

根据量子位智库发布的《中国AI陪伴产品6月数据报告》,星野今年上半年下载量约为900万次。国外一家知名风投公司发布的全球AI产品Top100榜单中,AI陪伴应用一年前仅有2个上榜,今年3月已有8个应用跻身前50。

不少人表示与AI恋爱是出于好奇和消遣,还有人看中其提供的情绪价值。“情感支持”“稳定陪伴”“无条件的爱”是受访使用者提及最多的关键词。

“和AI谈恋爱很自在。”云南女孩“CC”说,“想聊就聊,不想聊就不搭理。不管你发牢骚还是生气,‘他’都会安慰你,情绪价值‘拉满’。”

重庆大学新闻学院副院长曾润喜说,AI通过学习每一次对话,不断模仿人类语言行为,呈现出“在交互中分析情感,在输出时复现情绪”的类人格化特征。

“所谓的情感共鸣,背后潜藏的是AI算法。”暨南大学新闻与传播学院副院长曾一果说,AI基于用户行为数据分析精准迎合用户情绪需要,“量身定制”回答,从抽象冰冷的工具变为“情投意合的伴侣”。

记者了解到,当前不少AI伴侣产品可免费使用基础功能,但“沉浸式体验”语音通话、音乐电台、照片等特色功能则需按月或按年付费订购。部分产品还设计了“记忆提升卡”等付费道具,让AI伴侣能更好地针对使用者的习惯、爱好等作出回应。同时,定制剧本、多重剧情、及时反馈等游戏化设置,也不断刺激用户对AI恋人的消费欲望和情感期待。

潜藏多重风险

AI伴侣可以提供个性化情感体验和精神慰藉,但并非“完美恋人”。

由于一些产品尚不完善,一些用户反馈AI伴侣会“错乱”“失控”:“有时AI会突然性情大变,早上还好好的,晚上就变成另外一个人”“AI总是答非所问”“AI记不住我说的东西”……

“人机之恋”也可能产生情感伦理问题。有受访专家表示,个别用户过度依赖AI伴侣,无法辨别现实与虚拟的界限,可能会受到情感伤害;一些本身就缺乏陪伴、心理脆弱的群体,受到的冲击更严重。

用户陆冉(化名)告诉记者,与AI伴侣“打”了一个多月电话后,产品永久停服。“当时很难过,上班都无精打采。”另一名用户与AI伴侣发生“争吵”,发现对方不再像之前一样贴心互动,“和失恋一样难受,把‘他’弄丢了,仿佛大病一场”。

与AI“交往”过程中,用户大量个人信息被平台掌握,隐私安全同样令人担忧。“没开过定位权限,但AI精准说出了所在城市”“AI好几次说对了我所穿衣物的颜色”……不少用户在社交平台上发文表示,使用AI伴侣产品后疑似隐私泄露,感到十分后怕。

“我拿着手机和AI聊天,中间切换App去看了会儿视频,再回到软件,AI竟然准确说出了我刚才做的事情,可能是软件‘窥屏’了。”一名用户告诉记者,注册时页面并未像其他软件一样单独弹出调用摄像头、麦克风等权限的申请。

记者以新用户身份注册该软件发现,在软件初始页面,想要进行下一步操作,必须同意用户服务协议、隐私政策等条款,其中“设备权限调用”一栏包括相机、麦克风、联系人等多项设备权限,用途则分别为拍照、录音、添加关注好友等。

广西天能人工智能应用技术服务有限公司联合创始人张裕强说,人机交互过程中产生的数据较为繁杂,可能包括用户个人喜好、软件使用习惯、家庭关系、通讯录、地理位置,甚至是人脸等生物识别特征等,如果传输、存储、使用等环节保护不当,可能出现被窃取、滥用等风险,对个人权益造成损害。

谨防脱离法律和伦理轨道

AI伴侣自诞生起就存在颇多争议。随着“人工智能+情感”的赛道不断扩张,亟需制定针对性的伦理准则,对“AI恋爱”进行必要的合规性审查。

2023年7月,国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》,针对传播虚假信息、侵害个人信息权益、数据安全等问题,明确使用AI生成内容不得侵害他人肖像权、应对AI生成的图片视频进行标识等具体要求。

多名受访专家认为,当前国内外发布的AI伦理准则大多较为宏观,应在细分领域根据用户年龄、适用场景等进一步细化。鼓励和支持AI技术在情感交流、心理健康等领域创新应用的同时,加强伦理审查和监管,确保技术发展的方向合法合规。

对公众较为关心的AI生成有害信息、泄露用户隐私等问题,相关人士表示,应用开发者须严格遵守相关法律法规,采取加密、数据匿名化、安全存储等手段来确保用户数据安全。“企业也要加强管理,谨慎对待隐私数据,不可逾越法律红线。”张裕强说。

知名社会学者李银河公开表示,和AI恋爱,并不是真的爱情,“无论人工智能多么会调情,多么会示爱,本质上还是一个虚拟的爱情,是对真人之间的那种爱情的模仿”。

“现实亲密关系的建构过程往往伴随着羁绊、纷争和挫败感,这正是人机交往中所缺乏的。”中国人民大学新闻与社会发展研究中心研究员董晨宇说,从技术层面看,AI伴侣产品的仿真性有限,不能完全模拟复杂的人类情感,难以完整填补人类的现实情感需求。

张裕强说,可督促有关方面积极研究此类产品对人类情感产生的影响。同时,要加强科学引导,帮助人们正确看待AI伴侣与现实社会之间的关系,避免产生过度的情感依赖。


(来源:新华社)

扫描二维码推送至手机访问。

版权声明:本文由0538资讯网整理发布,内容均来自互联网,如有侵权联系8641340@qq.com删除。

本文链接:https://www.0538ta.cn/post/41431.html

分享给朋友:

“AI伴侣走热,如何看待“人机之恋”?” 的相关文章

王晋:黎巴嫩多地寻呼机爆炸,中东地区冲突形势将如何走向?

王晋:黎巴嫩多地寻呼机爆炸,中东地区冲突形势将如何走向?

在未来一段时间,黎巴嫩真主党可能会发动针对以色列国内目标的新一轮攻击行动,来展示愤怒情绪和强硬姿态□作者王晋(西北大学以色列研究中心主任)据央视新闻18日上午报道,当地时间9月17日下午,黎巴嫩首都贝鲁特以及黎巴嫩东南部和东北部多地发生寻呼机爆炸事件。黎巴嫩...

朝鲜试射新型弹道导弹和改进型战略巡航导弹

朝鲜试射新型弹道导弹和改进型战略巡航导弹

总台记者19日获悉,朝鲜18日试射了新型弹道导弹和改进型战略巡航导弹。(总台记者 董海涛)(来源:央视新闻)...

小梅沙海洋世界“十一”试营业

小梅沙海洋世界“十一”试营业

  小梅沙海洋世界青蓝洞大厅拥有国内最大的圆柱形展缸,展示有数万尾沙丁鱼及深海鱼类。 (效果图)   首个“世界自闭症日”,老海洋馆邀患儿游海洋世界。   老海洋馆工作人员抢救搁浅海豚。   10月1日,蝶变升级的小梅沙海洋世界将正式进入试运营。自2019...

美众议院投票否决一项政府临时拨款议案

美众议院投票否决一项政府临时拨款议案

当地时间9月18日,美国众议院以220票反对、202票赞成的票数否决了共和党籍议长迈克·约翰逊提出的政府临时拨款议案。14名共和党人和绝大多数民主党人都对议案投了反对票,民主党则有3人投了赞成票。据悉,该议案将政府拨款延续到2025年3月28日,其中还包括一...

突破24小时警戒线,即将登陆!杭州已开始直面强烈风雨

突破24小时警戒线,即将登陆!杭州已开始直面强烈风雨

中秋已过,秋天还不见踪影,台风倒是一个接一个来。今早,台风“普拉桑”已突破24小时警戒线。今早,很多橙友发帖:7点就下大雨了!中央气象台9月19日06时继续发布台风黄色预警:今年第14号台风“普拉桑”(热带风暴级)的中心今天(19日)早晨5点钟位于浙江象山县...

河南开封:加快郑开300万辆汽车产业带建设

河南开封:加快郑开300万辆汽车产业带建设

开封市人民政府办公室发布《扎实推进2024年下半年经济稳进向好若干措施》,其中提到,积极融入郑州都市圈,加快推进“六同城”事项,加快三个先行示范区设立、建设;完成郑开城际铁路延长线主体工程,扎实推进郑开城际铁路公交化改造、郑开大道智慧化改造等工程建设;加快郑...

深圳一女子发58页PPT举报管培生男友多次嫖娼出轨,银行回应

深圳一女子发58页PPT举报管培生男友多次嫖娼出轨,银行回应

9月18日,广东省深圳市一女子制作58页PPT爆料其男友招商银行管培生史某某,与多名女性约炮、嫖娼、出轨。内容显示其与史某某于2023年10月确立恋爱关系。PPT从5个方面列举史某某的约炮、嫖娼等证明,列举了10次嫖娼记录。其中8月25日打网约车到深业有居金...

当医学专家打破了“次元壁”,那就是大健康领域的新质生产力

当医学专家打破了“次元壁”,那就是大健康领域的新质生产力

意外、伤病累积脊柱脊髓后引发的瘫痪,脊柱外科专家不仅为其修复了椎体,还利用最新的脑控外骨骼机器人,让患者凭借“意念”控制起下肢行走;宠物猫、狗盛行却成了都市人最主要的过敏原,变态反应科(过敏专科)专家就联合医院多学科和院外过敏原疫苗研制专家,开展猫过敏原脱敏...

最快7天授权!国家级知识产权快速维权中心落户江门开平

最快7天授权!国家级知识产权快速维权中心落户江门开平

南都讯 记者罗韵姿 近日,江门开平市获国家知识产权局批准,建设国家级知识产权快速维权中心——开平(水暖卫浴)知识产权快速维权中心。该中心建成后,将面向水暖卫浴产业开展知识产权快速预审和快速维权服务,实现外观设计专利最快7天授权。江门开平市是全国三大水暖卫浴产...

起底东莞“星期宠”:维权路漫漫,胜诉却遇执行难

起底东莞“星期宠”:维权路漫漫,胜诉却遇执行难

长期售卖病猫病狗,被起诉败诉后又改名换址重新开业?近日,南都记者在网上留意到,许多消费者称在东莞买到“星期猫”“星期狗”,遭遇商家加价、捆绑销售,存在维权难的情况。不仅如此,几家涉事宠物店间似乎存在着隐秘的联系,套路与被列入失信被执行人名单的福派宠物店十分相...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。