周志華：AI倫理研究將就加入南京大學人工智能學院

　　人工智能技術已經(jīng)滲透到人類生活的每個角落，我們在享受種種革命性便利的同時，也難掩隱憂——不遠的將來，人工智能會不會破壞社會秩序和安全，給我們帶來危險？

　　“AI （人工智能）變得強大后，AI倫理就愈發(fā)顯得重要！”在9月7日開幕的“江蘇省人工智能大會”上，江蘇省人工智能學會理事長、南京大學人工智能學院院長周志華教授透露，AI倫理研究，將會加入該院的課程體系。

　　早期的人工智能，只能根據(jù)事先設定的程序完成一些需要進行大量計算的任務，比如下象棋、拼接圖案、對圖片分類、回答簡單問題等等。如今借助深度學習、神經(jīng)網(wǎng)絡、物聯(lián)網(wǎng)最新技術，一些人工智能設備實現(xiàn)了全自動化，能夠自主推理解決現(xiàn)實生活中的問題。語言翻譯、自動交易、人臉識別、無人駕駛等等都已通過人工智能實現(xiàn)。

　　但是飛速發(fā)展的人工智能技術會不會有一天失控？是否會危害人類信息甚至人身財產(chǎn)安全？全球科學家早已開始了探討和研究。

　　未來生命研究院（FLI）推動提出“23條人工智能原則”，IEEE發(fā)起人工智能倫理標準項目并提出具體指南。聯(lián)合國曾耗時兩年完成機器人倫理報告，認為需要機器人和人工智能倫理的國際框架。歐盟也在推動制定針對機器人、人工智能的數(shù)據(jù)保護、數(shù)字權利和道德標準，甚至通過決議，針對人工智能民事立法。

　　“當一個技術比較弱小的時候，大家犯不著去關心它的倫理，因為就算用來做壞事，也沒有什么大的危害。只有當這個技術變得非常強大，大家才會擔心將來會不會出問題?！敝苤救A覺得，今天人們對待人工智能，有點像上世紀五十年代看待核能，既期望它大顯神通，有心存恐懼。

　　他說，現(xiàn)在學界有很多一流的學者，開始關注人工智能倫理，包括在美國卡內(nèi)基梅隆大學這樣的領先高校，都已經(jīng)開始增設人工智能倫理方面的課程?！拔覀兡暇┐髮W人工智能學院后面也會有類似這樣的課程設置?！?/p>

　　但是，研究人工智能的倫理問題，不能只局限于本專業(yè)的科學家，還應該包括社會科學專家、其它相關方面的學者都可以共同關心參與，一起來探討這個新課題。

　　作為人工智能技術的大咖，周志華經(jīng)常拿生活中常見的菜刀和人工智能做對比。

　　“人工智能技術，就好像比菜刀。本可以用來切菜，提供生活的便利，但是也有可能拿著菜刀害人。這不是刀的錯誤，而是用刀人的錯誤?！?/p>

　　他強調(diào)：人工智能倫理研究的出發(fā)點，絕不是防備這項技術本身，而是預防這種技術被不懷好意的人濫用。