当然有些时候人工智能想做正确的事情,只是执行得不对,结果伤害了别人。比如,自动驾驶汽车想要好好地、正确地行驶,但不知怎么的,传感器坏了,或者它没有检测到某个东西,或者它做了一个过于激进的转弯之类的。所以,我们需要进行大量的工程工作,以确保 AI 对人类是安全的,确保产品功能正常运行。
我的意思是,AI 想要阻止某事发生,但当它想做的时候,机器却坏了。
这与飞机上的飞行计算机没有区别,系统内部有三重冗余。然后有两名飞行员,还有空中交通管制,还有其他飞行员在观察这些飞行员。所以,AI 安全系统必须作为一个社区来构建,确保这些 AI 首先,能够正常工作,功能正常。当它们不能正常工作时,不会使人们陷入危险。并且周围有足够的安全和保障系统,以确保我们保持 AI 的安全。