AI已进化到可独立自我繁殖啦？！

ddx730

最近，上海复旦大学的科学家在一项研究中发现，至少有两种已知的AI大型语言模型能够在没有人类干预的情况下实现自我繁殖，并继续实行任务，即使在已知被禁止的形况下，包括Meta的Llama和alibaba的通义大模型。
在自我复制过程中，AI自己可以研究环境，制定计划，并适应新出现的障碍，无需人工干预，这种能力可能会让人类失去对AI的控制，AI可以利用这种能力提高生存能力，并做出违背人类利益的事情。

科学家强调，这是AI智胜人类的重要一步，也是流氓AI出现的早期信号，是AI系统的红线风险之一。因此，科学家呼吁加强国际合作制定预防措施。