防范人工智能引发的伦理风险近期，一则外国青少年因过度依赖AI聊天机器人导致自杀的悲剧报道，为社会敲响了警钟。作为生成式人工智能浪潮中重要应用场景，虚拟数字人正悄然成为众多家庭的“新成员”，以其独特的存在方式为人们提供情感陪伴。在当前社会对生成式人工智能的认知尚不全面的情况下，亟须加强对人工智能发展的伦理风险研判与防范，正视其在初期应用中显现的成瘾性依恋、过度信任倾向，以及长远来看可能诱发的人机关系异化等伦理挑战，实现人工智能的安全、可靠及可控发展。（一）自ChatGPT问世以来，各应用商店里提供情感陪伴的人工智能应用花样迭出，从最初的简单聊天机器人，到如今的具有情感交互、个性化推荐等功能的人工智能应用，正在成为生成式人工智能的主流应用，且增长迅速。第一，与AI聊天正在受到年轻人的追捧和跟风。Character.AI是此类应用的代表性产品，专注于角色扮演，用户可以与AI扮演的知名IP虚拟角色......