谷歌创办人警告AI的隐忧:乐观看待但得小心AI可能反过来操纵人类

[导读] 继比尔盖兹、霍金之后,Google创办人暨Alphabet总裁Sergey Brin也公开表达对人工智能(AI)威胁的疑虑,表示需要科技公司的谨慎态度。该公司每年一度的《创办人的公开信》(Founder's Letter)中,Brin先引述《双城记》的"这是最好的年代,也是最坏的年代…是光明的年代,也是黑暗的年代"来描述现今时代有极佳的展望及可能性,也需要周延思虑及责任感。

继比尔盖兹、霍金之后,Google创办人暨Alphabet总裁Sergey Brin也公开表达对人工智能(AI)威胁的疑虑,表示需要科技公司的谨慎态度。

该公司每年一度的《创办人的公开信》(Founder’s Letter)中,Brin先引述《双城记》的”这是最好的年代,也是最坏的年代…是光明的年代,也是黑暗的年代”来描述现今时代有极佳的展望及可能性,也需要周延思虑及责任感。

ggcbr1805021

他指出,Google创立之初使用的Pentium II浮点运算是每秒1亿次,现今的GPU约为20兆次,而Google自行研发的TPU更来到180兆次。不过比起量子运算都是不算什么,Google正在研发的72 qubit处理器原型运算力是数百万台传统电脑的总和。

运算快速发展原因来自摩尔定律,以及游戏产业与Ethereum等加密货币推升对GPU运算力的需求。但最重要因素是十年以来机器学习的发展,它同时是更强大处理器的产物,也是促进处理器发展的动力。

ggcbr1805022

他也提及Google将机器学习用于各种产品上,包括Waymo、Google Home、Google Translate、Youtube、Gmail的自动回复、提升硬件的相机和音质,或是糖尿病视网膜病变的筛检等。AI的应用五花八门,堪称”科技复兴”(technology renaissance)。

但他也指出,AI也引发疑虑,包括在各产业造成的就业问题、人类是否能掌控它、它是否会反过来操纵人类、合理性及公平性等问题。其中安全性问题小到自驾车性能如何验证,大到AI是否发展出知觉。为此Alphabet内部也展开了关于AI安全性、伦理及业界合作计划。

ggcbr1805023

这也是比尔盖兹、特斯拉执行长Elon Musk、已故英国天文物理学家霍金之后,最新一位科技龙头对AI表达忧虑。但Brin似乎对AI较有信心,他预期机器学习仍然持续快速发展,而Alphabet在产品发展上也会更谨慎、思考更周详,对AI发展抱持”审慎乐观”态度。

目前Alphabet机器学习两大研发中心Google Brain及DeepMind会参与Alphabet旗下事业如生技公司Verily、自驾车公司Waymo、智能城市Sidewalk Labs及无人机连网基础架构计划Project Wing、及Nest等AI相关计划。

未经允许不得转载:数智网 » 谷歌创办人警告AI的隐忧:乐观看待但得小心AI可能反过来操纵人类

分享到: 更多