数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考_中国煤炭行业知识服务平台

数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考

作者

刘益东
单位

中国科学院自然科学史研究所
摘要

人们通常将智能革命与以往多次科技革命并列，但这不能反映智能革命的特质和影响。以往的科技革命都是专能(专门能力)革命，智能革命是首次发生的通能革命，引发社会前所未有的巨变。人工智能风险与伦理治理收效甚微，其首要原因是公众和学术界深陷十大认识误区。深度信息化、数字化导致人类边际收益递减，AI机器人因不受生理限制而收益越来越大，远超人类的收益，直到反客为主，危害人类，可谓“数字反噬”。人工智能造成“短期失业、长期增业”论不能成立，通能革命势必引发大规模失业，可谓“通能塔诅咒”。“奇点到来还很遥远”这一判断是错误的，人工智能“还没有超过人类智能”“还没有自主意识”,并不等同于AI没有威胁人类安全。只要AI或利用AI可造成毁灭性灾难，即可认为“奇点”来临，至少广义的“奇点”——“畸点”已临。AI for Science导致的最大风险是辅助或自主生产“致毁知识”,对它而言，科技伦理形同虚设。初探科技风险剧增理论，指出人工智能等高科技带来的好处越来越多，却终将毁于一旦，可谓“全押归零的人工智能赌局”。因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变。
关键词

通能革命人工辅能人工智能B模式科技风险剧增理论人类安全科技重大风险畸点已临致毁知识
文章目录

一、从数字化到数字反噬
二、科技风险剧增理论初探
1.人类生理的限制。
2.反噬效应。
3.连锁效应。
4.尖端科技的正负效应不能抵消。
5.科技知识增长不可逆。
6.科技发展自我增强永无止境。
7.资本反噬，推波助澜。
8.畸点(广义奇点)已临，需要紧急应对。
9.全押归零的高科技赌局。
10.双重挑战。
三、从专能革命到智能革命：社会与科技发展的第二次巨大变革
四、人工智能伦理与风险治理的十大认识误区
误区1.忽视长远利益的方向误区
误区2.思想混乱：机器人、数字人、合成人是发展的必然趋势
误区3.科学家决定科学的“霍尔丹原则”:既是运动员，又是裁判员
误区4.对技术失控的误解
误区5.高估科技伦理的功效
误区6.低估拜技主义的危害
误区7.低估集体任性的危害
误区8.忽视了限时原则
误区9.半句真理，似是而非
误区10.忽视了科技发展模式对科技伦理与风险治理效果的影响
五、通能塔诅咒：机器换人将引发大规模失业
六、因“致毁知识”一票否决：暂停AI for Science
1.AI科学迅速崛起，危害巨大却隐蔽性强。
2.AI科学增强粗放式科研与粗放式创新，增大其风险与危害。
3.AI科学使得黑客与恐怖分子如鱼得水，助纣为虐。
七、结语：全押归零的人工智能赌局
引用格式

刘益东.数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考[J].山东科技大学学报(社会科学版),2022,24(06):1-13.DOI:10.16452/j.cnki.sdkjsk.2022.06.009.
相关文章

[1]竞争方式陷阱与匿名核袭击：科技重大风险治理的当务之急