首页 » 虚拟现实:万象的新开端 » 虚拟现实:万象的新开端全文在线阅读

《虚拟现实:万象的新开端》不完美的智慧

关灯直达底部

未来理想显性系统的模块会通过近似的方法,采用机器视觉和其他通常与AI有关的技术进行连接,因此,今天的许多疯狂、棘手的黑客游戏不会再出现。

例如,人们很难通过深度学习网络将恶意软件安装到计算机上,比方说让摄像头对着一幅可能会引起病毒感染的图像。但“难”不等同于“不可能”,追求完美的安全本身就有些愚蠢。

明确地说,你可以利用图像植入恶意软件(人们一直都在这样做),但只有在软件一个比特接一个比特地接收图像,并通过精确协议处理图像时,才能较容易地完成这种植入。

欺骗刻板的协议很容易,因为你通常可以想出协议的原始设计者之前没有预料到的技巧。一个常见的例子是,图像中放置的比特数多于描绘图像的协议识别的比特数。协议读取图像时,一些比特会溢入之前未曾料到的计算机位置,而这些多余的比特可能就包含恶意软件。

利用这种风格的策略实现的计算机感染,可能是目前地球上最常见的人为事件。

但是,如果我们只是以模拟近似读取图像,并只对其进行统计分析,就像有个摄像头对着这个图像,那么系统就不会那么脆弱。[12]图像不是问题,僵化的协议才是问题。

有时候,工程师最好不要知道软件的精确工作原理。

与深度学习等类似术语相关的现代算法具有近似性及其他相关特性,能够在本质上抵御黑客的攻击技巧,但是我们只用这些能力执行特殊任务,而不用于建构体系结构。另一种设计显性结构的方法是在架构中使用这些算法。

和生物学一样,当系统变得强大时,安全性也会增强,这与完美不同。完美的系统会崩溃,而强大的系统可以调整。