首頁 >> 社科關注
人工智能與算法治理研究
2019年07月23日 09:36 來源:《中國行政管理》2019年第1期 作者:賈開 字號
關鍵詞:數字社會;人工智能;大數據;算法治理;算法倫理

內容摘要:伴隨著人類社會數字化程度的不斷提升,算法已經成為影響世界運行的基礎性規則。以機器學習算法為代表的第三次人工智能發展浪潮的興起,更是突破了“波蘭尼悖論”所揭示的人類表達能力的局限,使得算法實現了自我生產,通過基于大數據集的自我學習過程形成規則集并應用于不同場景下的感知和決策。

關鍵詞:數字社會;人工智能;大數據;算法治理;算法倫理

作者簡介:

  摘要:伴隨著人類社會數字化程度的不斷提升,算法已經成為影響世界運行的基礎性規則。以機器學習算法為代表的第三次人工智能發展浪潮的興起,更是突破了“波蘭尼悖論”所揭示的人類表達能力的局限,使得算法實現了自我生產,通過基于大數據集的自我學習過程形成規則集并應用于不同場景下的感知和決策。算法性能的提升及其應用的普及在極大提高人類社會運行效率的同時,也帶來了新的治理風險與挑戰,相關議題集中表現為不可解釋隱憂、自我強化困境與主體性難題三個方面。在對算法基本原理進行梳理并對其可能引發的治理議題進行合理評估的基礎上,本文提出推進認知教育、促成算法倫理、區分政策優先級三方面政策建議,以形成兼顧發展與規制、且不超越當前及未來技術發展可能性的政策創新進路。

  關鍵詞:數字社會;人工智能;大數據;算法治理;算法倫理

    作者簡介:賈開,電子科技大學公共管理學院講師,中國行政管理學會數字政府治理研究中心特聘研究員。

 

  2017年9月,《人民日報》連發三篇評論,對基于算法而向用戶自動推薦個性化內容的互聯網業態提出了批評。為吸引“眼球經濟”而導致所推薦內容的低俗性、虛假性,片面強化用戶偏見與喜好而使得整個社會可能陷入“信息繭房”的極端性,一味迎合用戶而使得智能平臺走向媚俗化并最終可能阻礙創新的危險性,共同構成了對于當前正蓬勃發展的算法推薦相關業態的深刻反思。[1]事實上,不僅僅是算法推薦,我們日益生活在一個“算法社會”之中。[2]搜索引擎對于用戶搜索內容的排序算法,商業銀行對于貸款申請者的還款風險評估算法,機場車站對于大規模人群的特征識別算法,都是已經被普遍使用并深刻影響我們日常生活的典型案例。

  由此引發的問題在于,對于伴隨技術發展而出現的新業態,《人民日報》的警示性評論是否預示著算法在極大提高人類社會運行效率的同時,也會帶來普遍性的治理挑戰?若如此,考慮到算法及相關業態本身的復雜性,我們又該如何推進治理機制的創新以應對這種變化,尤其是如何通過公共政策框架的重構以平衡發展與規制的二元關系?在數字化進程不斷加深且網絡空間與現實空間深度融合的時代背景下,我們需要充分認識到算法治理的重要性;另一方面,基于對算法基本原理及其應用場景的總結性分析,我們應該對新技術和新業態帶來的治理挑戰形成不超越其現有發展水平及未來發展可能性的合理評估,進而在此基礎上有針對性地提出算法治理的公共政策創新進路。

  從20世紀中期計算機和互聯網的發明以來,以計算機程序代碼為載體的“算法”便開始涉入并影響人類生活。伴隨人類社會數字化程度的提升,旨在討論算法形成、應用及影響的算法治理研究逐漸成為學者關注的焦點。在繼承已有研究的基礎上,本文更多關注人工智能背景下的算法治理問題。本文將指出,以機器學習算法為代表的第三次人工智能發展浪潮下,算法的生產過程發生了本質變化;這一變化不僅意味著算法應用能力的提升和應用范圍的普及,更意味著算法對于人類社會影響的擴大以及相應治理挑戰的凸顯。

  一、人工智能背景下的算法治理:轉變及其意義

  雖然“算法”這一概念在現實生活中耳熟能詳,但其定義在學界卻并沒有形成高度共識。狹義的理解認為算法是特殊的決策技術,而廣義的理解往往將算法視為建構社會秩序的理性模型,更聚焦的研究則對算法進行分類并特別關注“與公共利益相關的算法”。[3]不同理解的差異源于“算法”本身在事實上的模糊性與復雜性。一方面,算法被認為無處不在,其在不同場景下管理、分類、約束乃至決定整個社會的運行;但另一方面,算法卻往往被描述為高深莫測或難以捉摸,我們并不能明確界定一個實體對象或工作流程來解釋算法的運行。在佐治亞理工學院教授伯格斯特看來,算法就像“黑洞”,我們能清晰感受到它的影響但卻并不能對其內部一窺究竟。[4]正因為此,試圖對算法做出一般性的定義不僅困難,也是一個不可能完成的任務;而不同學科按照各自的理解與興趣對算法的不同側面展開研究則可能是更為實際的途徑。計算機科學關注算法的模型與構成,社會學將算法視為設計者與技術參數互動過程的產物,法學聚焦算法作為法律原則外化的符號或代表的作用,而哲學路徑則強調算法的倫理性質。[5]沿襲這一思想,本文從公共管理學科視角出發,重點關注算法影響社會運行的規則屬性,并試圖從規則的形成與應用出發,探究算法影響社會運行的機制與過程。在此視域下,算法治理的對象將不僅聚焦作為其載體和結果的計算機代碼,而同時包含影響這一載體和結果形成的所有相關因素,尤其是第三次人工智能發展浪潮背景下大數據的影響。

  就算法的規則屬性來看,萊辛格教授提出的“代碼即法律”無疑是研究的起點,不過其在十余年前對于該論斷的解釋并不足以完全回應算法治理在當前所面臨的挑戰。在萊辛格教授看來,“代碼即法律”的意義在于回應了網絡自由主義者對于“網絡烏托邦”的想象,指出網絡空間雖然能夠避免政府干涉,但其卻被置于市場主體這只“看不見的手”的完美控制之下,而后者正是通過算法來塑造網絡空間的運行規則并進而對人類社會產生影響。[6]萊辛格教授的洞察開啟了社會科學對于算法的研究興趣,不過伴隨著技術演化與業態發展的進程,算法本身的生產過程,及其對于人類社會的影響機制與結果都發生了巨大變化。就前者而言,在以機器學習為代表的第三次人工智能發展浪潮興起的背景下,算法不再僅由商業公司(甚至不由人類)所生產并控制,算法的自我生產能力決定了其作為“規則”的復雜性;就后者而言,網絡空間與現實空間的不斷融合使得線上線下的邊界逐漸模糊,原本局限于網絡空間的算法規則開始對現實空間產生越來越多的影響。

  上述兩方面轉變的重要性可從“波蘭尼悖論”中得到更清晰的體現。邁克-波蘭尼曾指出,“人類知道的遠比其能表達出來的更多”。[7]事實上,我們雖然能很容易記住一張面孔、辨別一個聲音,但卻并不能很好地闡述或解釋我們為什么可以實現這一功能。在第三次人工智能發展浪潮興起之前,傳統算法的生產過程實際上就是人類表達自身的過程。對于傳統算法而言,其往往需要設計者明確某項工作的實現流程并事無巨細地規定好計算機在給定條件下的給定動作。“波蘭尼悖論”在指出人類表達能力缺陷的同時,也指出了傳統算法生產過程的局限。但以機器學習為代表的第三次人工智能發展浪潮的興起,則突破了“波蘭尼悖論”的束縛,機器學習算法可以通過基于大數據的自我訓練、自我學習過程完成參數調整與模型構建,也即完成算法的自我生產過程。盡管人類仍然參與其中,但機器學習算法已然擺脫了需要依賴人類表達能力的局限,從而極大地提升了算法能力并擴展了其應用范圍。

  網景公司創始人馬克-安德森2011年曾在《華爾街日報》上發表文章,描述了各個產業朝向數字化轉型且其生產與服務過程被廣泛嵌入軟件的趨勢,他將這一變化稱之為“軟件正在吞噬世界”。①機器學習算法對于“波蘭尼悖論”的突破,將加速這一進程的發生,最終使得“軟件吞噬世界”成為更快到來的現實。算法作為社會運行的基礎規則將由此扮演更為重要的作用,而因此出現的新的治理挑戰也將成為重要的公共議題,算法治理研究在此背景下才凸顯其時代意義。需要指出的是,雖然機器學習算法突破了“波蘭尼悖論”,這并不代表我們就進入了所謂的“強人工智能時代”,也不代表算法就可以替代人類社會運行的所有規則并完成各項社會功能。事實上,機器學習算法的實現原理決定了其適用環境的局限性。

作者簡介

姓名:賈開 工作單位:

轉載請注明來源:中國社會科學網 (責編:張振)
W020180116412817190956.jpg
用戶昵稱:  (您填寫的昵稱將出現在評論列表中)  匿名
 驗證碼 
所有評論僅代表網友意見
最新發表的評論0條,總共0 查看全部評論

回到頻道首頁
QQ圖片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
內文頁廣告3(手機版).jpg
中國社會科學院概況|中國社會科學雜志社簡介|關于我們|法律顧問|廣告服務|網站聲明|聯系我們
河北11选5分布走势图-河北11选5开奖结果