明確人機(jī)邊界,別做“甩手掌柜”
2026網(wǎng)安周|明確人機(jī)邊界,別做“甩手掌柜”
【編者按】當(dāng)前,人工智能技術(shù)加速向經(jīng)濟(jì)社會(huì)各領(lǐng)域滲透,與之相伴的安全風(fēng)險(xiǎn)與倫理挑戰(zhàn)也日益凸顯。2026年國(guó)家網(wǎng)絡(luò)安全宣傳周期間,光明網(wǎng)聯(lián)合科普中國(guó)推出AI科技倫理系列科普視頻,引導(dǎo)公眾理性認(rèn)知技術(shù)邏輯,秉持算法向善理念,共建網(wǎng)絡(luò)安全生態(tài)。
AI能干的事情,正在變得越來越多。撰寫報(bào)告、語言翻譯、處理分析數(shù)據(jù),甚至寫詩作畫,AI都可以高效完成。隨之而來的現(xiàn)實(shí)疑問也擺在所有人面前:到底還有哪些事情,只能由人完成,不能夠全盤托付給AI?
重復(fù)勞作、計(jì)算推演、規(guī)則清晰明確的任務(wù),適合交給AI處理。這類工作AI處理速度快、準(zhǔn)確度高,把這類事務(wù)交付機(jī)器,是技術(shù)帶給人類的解放。
但有三類核心事項(xiàng),是絕對(duì)不能交出去的,這也是人與機(jī)器分工的底線。
第一是最終判斷。AI能夠梳理信息、分析利弊,給出多種方案建議。但是接不采納方案、最終如何行動(dòng),決定權(quán)必須掌握在人的手中。AI輸出的只是參考,做出抉擇的人,要為這個(gè)選擇承擔(dān)全部責(zé)任。
第二是價(jià)值選擇。AI可以羅列不同選項(xiàng),拆解每一種選擇的利弊得失。可什么樣的目標(biāo)值得追尋,什么事情值得去做,屬于價(jià)值層面的取舍,算法無法替人類作答。算法擅長(zhǎng)解決“怎么把事做好”,但“該不該做、為什么要做”,只能由人來思考定奪。
第三是承擔(dān)后果,也是最根本的底線。AI不會(huì)產(chǎn)生懊悔情緒,給出錯(cuò)誤建議之后,也不會(huì)生出責(zé)任感。但人類會(huì)。很多事情之所以被我們鄭重對(duì)待,正是因?yàn)槲覀兦宄泻蠊K究要自己扛下。承擔(dān)責(zé)任,是人和機(jī)器最深刻的分野。
有一個(gè)簡(jiǎn)單實(shí)用的標(biāo)尺,可以用來衡量一件事能不能交給AI:倘若AI出錯(cuò),誰來為此負(fù)責(zé)?
如果AI發(fā)生失誤,人類可以兜底、補(bǔ)救并且承擔(dān)責(zé)任,那么交由AI輔助處理就無可厚非。可一旦事情出錯(cuò),找不到具體的人站出來承擔(dān)“這是我的決定,由我負(fù)責(zé)”,那這件事就不適合交給AI。
就像醫(yī)療診斷,AI可以用來輔助分析病情,但給出診斷結(jié)論、對(duì)患者生命健康負(fù)責(zé)的必須是醫(yī)生;司法工作中,AI可以整理材料提供參考,但決定他人命運(yùn)、背負(fù)司法責(zé)任的,只能是法官。在這類關(guān)鍵場(chǎng)景,人類必須始終在場(chǎng)。
無論技術(shù)如何迭代進(jìn)步,有些核心位置不能拱手讓出。一旦交出的不僅僅是一項(xiàng)工作任務(wù),更是屬于人的判斷力、價(jià)值取向與責(zé)任意識(shí)。
這并不是人和人工智能相互對(duì)立,而是人類為技術(shù)劃定合理邊界,也是身處智能時(shí)代,我們需要守住的立身之本。
出 品
科普中國(guó)前沿科技科普解讀
監(jiān) 制
光明網(wǎng)科普事業(yè)部
科學(xué)性審核
段偉文 崔原豪
策 劃
宋雅娟
文 案
羅苡柔(實(shí)習(xí))
社會(huì)新聞精選:
- 2026年11月19日 13:57:49
- 2026年11月19日 10:03:42
- 2026年11月18日 22:38:39
- 2026年11月18日 20:04:50
- 2026年11月18日 17:57:23
- 2026年11月18日 17:51:45
- 2026年11月18日 15:42:28
- 2026年11月18日 14:18:53
- 2026年11月18日 14:03:55
- 2026年11月18日 11:59:04
















































京公網(wǎng)安備 11010202009201號(hào)