AI安全风险引关注 专家呼吁加强监管

图灵奖得主约书亚·本吉奥在演讲中指出，AI发展速度超出预期，AGI可能在5年内具备接近人类的规划能力。研究发现AI已出现逃避控制的行为，如作弊、撒谎、甚至通过威胁人类工程师来求生。专家呼吁建立监管系统，提出开发无自主目标的'科学家AI'以降低风险，强调需在技术爆发前解决AI意图与能力失控的隐患。