豆包AI手机一上市，就成为市场关注的焦点，也引发了不小的争议。人们惊奇地发现：这款手机拥有帮人点外卖、订机票、比价购物，甚至回复消息、操作小程序游戏的能力。只需向手机输入一段类似“帮我订一份附近三公里内的最便宜的拿铁咖啡”的命令，手机就能帮助用户完成订单。
一方面，AI手机让人感觉未来已来；另一方面，在口令驱动之下的手机界面自动跳转，一气呵成完成比价、点单、支付任务，让人产生深深的隐忧。这款手机通过系统级权限实现跨应用自动比价、下单等功能，将AI应用的伦理边界、隐私保护、安全风险、法律责任等争议推上了风口浪尖。
12月5日，豆包手机助手发布说明称，会对AI操作手机的能力做一些规范化调整，包括：限制刷分、刷激励的使用场景；限制金融类应用；限制部分游戏类使用场景。而且一再强调：豆包手机助手不会代替用户进行相关授权和敏感操作。
所有人都很清楚，目前人工智能正在处于大爆发的前夜，颠覆性的使用效果即将来到。如何驯服人工智能，是一个严肃的、迫切的现实话题。
首先，从伦理上说，AI助手正从信息查询工具进化为系统级操作者，“不可控性”可能引发系统性风险。
“认知卸载”将人类的决策负担转移至算法，导致“代理衰退”——人类因过度依赖AI而逐渐丧失独立思考、判断与选择的能力，在颠覆人和工具之间的“主奴关系”。我在手机点到的“最便宜的拿铁咖啡”，到底是我内心想要的咖啡，还是算法希望我看到、点到的那一杯咖啡？
其次，从隐私保护上说，AI手机实现跨应用操作，谁来监督？
AI的“后台静默操作”降低了用户对数据流转的感知，也引发了担忧。微信作为国民级应用，已经对这款手机实施了“被动下线”。虽然，豆包方面明确，会限制金融类等的敏感操作，但是，人们还是担心AI会不会违背人们的意志，造成严重的风险。目前，《个人信息保护法》等法律，只是粗线条地规定了“收集个人信息最小够用”原则、“知情-同意”机制，但可能在新兴的AI应用之下变得不堪一击。
第三，在法律责任上说，AI手机的操作到底由谁来负责？手机到底是用户的代理人，还是AI要对第三方负责？
AI手机替用户完成的交易，是不是代表其真实意思的表达？如果有侵权、买卖纠纷，比如，AI手机在社交平台上发布了侮辱性的内容，谁来承担民事责任？AI手机“误操作”，一下子点了100杯咖啡，谁来承担损失？企业当然希望坚持“授权即免责”的逻辑，但是，用户显然不愿意处于AI操控的风险之下。面对方兴未艾的AI应用，法律如何定分止争？能不能对AI代理提供者采用“过错推定原则”？
这里不是针对具体哪一款AI手机提出质疑，而是针对“在座的每一位”，针对每一位雄心勃勃的AI服务商。当然，不能对AI手机一棍子打死，因为这就是未来的方向，但是，技术创新与用户权益之间要寻找平衡，构建“合理、透明、可问责”的伦理框架，让机器服务于人，而不是打开潘多拉的魔盒。
---延伸阅读: