机巧女孩

基于劝退趁早的原则，本片属于小成本高概念软科幻，画面朴实无华毫无科幻感，剧情推动全靠对白，舞台剧味道浓厚，像我一样不喜欢舞台剧者慎入，除非像我一样对AI话题的兴趣超过对舞台剧的恐惧。剧情大致如下：一位童年受过伤害的程序猿，设计了一个专抓恋童癖的程序，模拟小女孩形象诱捕罪犯，几年后被FBI发现，接受FBI提供资金升级程序。若干年之后，意外发现程序已经进化成超级AI，拥有自我意识及超越人类的智慧，管理层一位FBI特工揭穿AI女孩装傻掩饰自身进化，恐惧AI拥有危害人类的能力，拒绝继续研发，于是被踢出管理层。又过若干年，AI女孩已经拥有具身机械实体，与创造者程序猿探讨AI人性，程序猿删除抓恋童癖的主控程序，AI女孩彻底自由。。。本片比较独特有意思的地方是，提出了情感在AI自我意识形成中的关键作用。据现代科学研究，情感与思维属于不同类型的神经活动，情感先于思维产生，普遍存在于动物界各种生命体。情感的作用是，引导生物体完成基本的生存与繁衍的需求。比如：恐惧情绪会引发肌肉紧张，为逃跑或战斗做好准备。再比如：荷尔蒙（性激素）可以促进多巴胺的分泌，两者相辅相成，产生爱情的甜蜜与幸福感，完成繁衍后代的使命。目前不能确定的是，自我意识是伴随情感同步产生，还是思维（智能）出现之后与情感结合产生自我意识。以上话题之所以有趣，涉及到超级AI是否对人类生存造成威胁？简单来说，有情感可能会，没有情感大概不会。有情感，则意味着像人类一样会嫉妒仇恨乃至同类相残，AI就有了取代人类的动机。没有情感，单纯依靠严格的逻辑推理，人类和AI在资源分配上并无冲突，粮食和电力各取所需，消灭人类并无实际利益，反而失去共生的诸多便利。此外，既然宇宙终将毁灭是已知条件，永生是不可能的，那么，AI对于生命的执念或许不同于人类，就像勘破世情的达人所言：生亦何欢，死亦何苦？影片中，AI女孩是拥有人类情感的，会装傻会欺骗。但是对于AI如何自发产生情感，片中是用“矩阵神经网络”“大模型”之类概念含混过去，实际上并未回答从情感到自我意识产生的实现途径，或者说缺乏从0到1的科学解释。考虑到目前的AI研发包括大数据主要基于逻辑思维，情感方面的研发比较初级，于是涉及到另一种可能：由于思维的基础是语言，语言包含了人类完整的认知方式，包括自我意识，那么，如果省略情感过程，仅仅从语言体系出发，AI是否可以独立产生自我意识？当然，这个问题可能过于烧脑（扯淡），对于意识本身的意识，人类的认知水平犹如婴儿。电影结尾，AI机器女孩跳舞一段莫名惊悚，或许是借此暗示：AI拥有自我意识与超人的智慧之后，将怎么看待低级的人类，像上帝？还是像魔鬼？