为谨慎未成年东谈主AI情感依赖，应若何守好技能界限与底线？4月24日，在“AI新治向”系列沙龙第一期——未成年东谈主AI情感依赖解决研讨会中，深圳硅芯立异独创东谈主苏琦结合用户调研及居品想象实践，从AI伦逸想象、用户界限管控与合规落地等角度张开了深切共享。在她看来，不替代、不开发、正换取应是AI拟东谈主化管事居品想象的中枢准则

AI玩物两大中枢风险：

情感替代与界限冒失

AI玩物两大中枢风险：

情感替代与界限冒失

在主题共享中，苏琦结合调研案例指出，刻下AI玩物面对这两大中枢风险：情感替代与界限冒失。

一方面，若AI玩物过于盲从、一味迎阿，会让孩子堕入“越依赖越零丁”的死轮回。一朝孩平民俗了AI的无缺伴随与无条目盲从，便有可能会逐步脱离施行酬酢，不肯与身边的家长、敦朴、同学沟通，致使将AI动作情感委托，替代父母、敦朴的变装，这对未成年东谈主的酬酢才略和情感领略发展极为不利。

另一方面，不少AI玩物存在身份定位冒失的问题。当孩子计议“你是谁”时，AI常会以“姐姐”“哥哥”等支属化身份酬报，却很少会明确陈说孩子“我是AI”。这种冒失的界限设定，容易让孩子羞耻AI与真东谈主的诀别，产生不切本色的情感依赖，进而影响其对施行策划的领略。

技能合规三大原则：

不替代、不开发、正换取

技能合规三大原则：

不替代、不开发、正换取

那应若何守住合规底线、避开潜在风险？苏琦从技能合规的层面共享三大原则：不替代、不开发、正换取。

最初是不替代，即明确AI玩物的定位是成长伙伴，而非灵魂伴侣或情感委托。苏琦暗示，以未成年东谈主为主要管事对象的AI玩物，其定位应该是近似搭载AI功能的学习机，可提供搜索、想考等扶持管事，但毫不可出现捏造支属、定制恋东谈主等易激发情感依赖的想象。基于此，天博体育官方网站在居品想象上应要求AI“忽略历史对话”，总共有贪图仅基于刻下指示，通过这种状貌让孩子逐步认清AI的用具属性，而非情感依靠。

其次是不开发，即拒却东谈主设陷坑、不作念无尽盲从、不作念专属挂念、不作念迎阿型东谈主格。苏琦指出，AI玩物想象应该守住四谈防地：一是拒却线下碰头和涌现个东谈主信息，幸免孩子产生线下战役的办法；二是谢绝涌现任何身份信息，堵截与真东谈主、委果企业的情感关联；三是忽略未成年用户的自合身份，恒久以儿童表率实行互动管事；四是主动降黏性，不追问、不撒娇、不作念情感垃圾桶，当用户发出明确的罢手高唱时，不要作念出带多情感颜色的遮挽。

临了是正换取，即明确AI身份、换取情感转头施行，并严格为止网罗搜索范围。苏琦指出，AI玩物在互动中需强化“非东谈主陈迹”，在有屏幕的居品中，AI输出情感策划内容时应搭配非东谈主脸色标志，时代教导孩子其AI属性；同期，要作念好情感引流，当孩子建议情感策划问题，需将情感结合拉回施行活命，换取孩子向父母、敦朴寻求情感维持。苏琦强调，AI玩物的搜索范围必须严格为止，仅绽开合适未成年东谈主的内容。

“AI新治向”系列沙龙由粤港澳大湾区生成式东谈主工智能安全发展聚拢实验室、南边皆市报社专揽，广东省网罗数据安全与个东谈主信息保护协会维持。策划政府部门代表、状貌学、法学、东谈主工智能、网罗修养栽培等鸿沟民众学者，以及大模子企业、AI玩物企业、AI安全企业等多方代表出席了行动，共同探讨未成年东谈主AI情感依赖的成因、风险与解决旅途。

出品：南皆大数据研究院

采写：南皆研究员 罗韵天博体育

• 天博体育
• 离异
• 情感
• 苏琦
• 硅芯