人工智能監(jiān)管立法趨勢前瞻

人工智能技術(shù)是本世紀最重要的技術(shù)創(chuàng)新之一，如何對其進行法律規(guī)制，考驗著各國立法者的智慧。任何新興技術(shù)發(fā)展都面臨控制風險的難題。監(jiān)管者控制風險的同時，往往會給技術(shù)發(fā)展套上枷鎖。為把握好新技術(shù)帶來的風險與收益間的平衡，必須立足于以下價值立場展開制度設計。其一是私權(quán)保障。在人類文明史上，新興技術(shù)往往會對既有權(quán)利格局造成沖擊。人工智能對私權(quán)保障帶來挑戰(zhàn)，表現(xiàn)為機器具有一定的智能性和自主性，人機混同下不能直接析出人工的作用成分，私權(quán)侵害變得更加隱蔽性和規(guī)?；?。其二是國家安全。數(shù)據(jù)跨境流通時，各國面臨著重要數(shù)據(jù)、隱私數(shù)據(jù)泄露以及算法模型參數(shù)泄密等風險。其三是產(chǎn)業(yè)發(fā)展。各國正面臨經(jīng)濟增長放緩的困擾，而人工智能技術(shù)當下最有希望成為推動新一輪經(jīng)濟驅(qū)動的力量。以上價值的權(quán)衡將影響規(guī)范出臺的密度、頻率以及權(quán)利保障的方式。

各國人工智能監(jiān)管現(xiàn)狀比較

在全球范圍內(nèi)，人工智能技術(shù)的發(fā)展并不均衡。一些國家是技術(shù)的主要引領者，一些國家緊隨其后，還有一些國家主要是作為技術(shù)應用產(chǎn)品的消費者。這決定了不同國家會采取不同的人工智能監(jiān)管立場。縱觀當今的人工智能技術(shù)產(chǎn)業(yè)發(fā)展格局，中國、美國和歐盟已然構(gòu)成“三足鼎立”的局面。

美國的監(jiān)管特點是內(nèi)部對象和寬松規(guī)范。應當承認，美國在人工智能領域具有全球領先的地位。算力方面，以英偉達公司為代表的芯片公司獨占高端芯片的生產(chǎn)市場；數(shù)據(jù)方面，其優(yōu)勢主要源于英語世界的影響力和海量語料；算法方面，ChatGPT以及之前的深度學習算法框架BERT、PyTorch等均出自美國公司。美國是人工智能技術(shù)的輸出國，但是其技術(shù)優(yōu)勢主要集中于OpenAI、微軟、谷歌、Meta、英偉達等少數(shù)公司。美國人工智能監(jiān)管的對象相對集中，一旦新設公法或者私法義務，或者對違法事件作出處罰，矛頭都直指那幾家巨頭公司。因此，美國的監(jiān)管者一方面需要考慮如何保持巨頭公司在人工智能領域的先發(fā)技術(shù)優(yōu)勢，另一方面也會受到巨頭公司的游說影響，故采取相對寬松的監(jiān)管政策。

歐盟的監(jiān)管特點是外部對象和嚴格規(guī)范。相對美國而言，歐盟不具有人工智能領域的技術(shù)優(yōu)勢，因此歐盟各國更多是作為人工智能技術(shù)和產(chǎn)品的輸入地存在，基本呈現(xiàn)出“本國公民作為下游客戶和消費者，美國公司為之提供技術(shù)和服務”的產(chǎn)業(yè)格局。在此背景下，實施人工智能領域的監(jiān)管，歐盟是以外國公司尤其是美國公司為規(guī)制對象的，其所保護的是本國公民的私權(quán)利益和作為技術(shù)輸入地的國家法益。歐盟當前處在技術(shù)競爭的下風，這是理解歐盟的人工智能監(jiān)管政策時必須具備的基本認知。

中國的監(jiān)管特點是借鑒比較法經(jīng)驗，追蹤前沿技術(shù)并針對性立法。我國立法最為重要的借鑒對象是歐盟相關(guān)法律，2018年歐盟出臺《通用數(shù)據(jù)保護條例》（GDPR）之后，我國于2021年出臺了《個人信息保護法》，后者的很多內(nèi)容都學習借鑒了前者。當前，我國已經(jīng)在人工智能領域形成了初步的監(jiān)管規(guī)范體系，包括《個人信息保護法》《數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等不同層級的監(jiān)管依據(jù)。若考察這些規(guī)范出臺時的背景會發(fā)現(xiàn)，它們大部分是針對當時的前沿技術(shù)熱點而制定的。最為典型的例子是，OpenAI發(fā)布ChatGPT數(shù)月之后，我國就頒布了《生成式人工智能服務管理暫行辦法》。

探尋我國人工智能監(jiān)管立法方向

在數(shù)字法領域，過度依賴域外立法經(jīng)驗必然是行不通的。改革開放后的一段時期內(nèi)，我國立法對于域外法借鑒較多，存在以下背景。其一，我國屬于后發(fā)國家，發(fā)展經(jīng)濟所采取的工業(yè)模式基本與歐美類似，我國的城市組織框架、工作和生活方式逐漸在向其靠攏。其二，當時處于全球化浪潮之中，我國需要通過進出口拉動生產(chǎn)和經(jīng)濟，因此需要構(gòu)建一套能夠與西方對話的規(guī)則語言。其三，我國當時處于社會治理規(guī)范轉(zhuǎn)型時期，自身的法律規(guī)范還有許多空白之處。然而，數(shù)字文明是和工業(yè)文明同等重要的劃時代節(jié)點，亦步亦趨的立法模式在數(shù)字法領域并不可取。

當前，人工智能領域的國際競爭日趨激烈，基于不同的國情和立場，人工智能監(jiān)管必然具有國別性差異。我國要走獨立自主的人工智能監(jiān)管立法道路，具體應考慮以下幾個方面。其一，我國的人工智能技術(shù)發(fā)展面臨國際圍堵的嚴峻形勢。在算力方面，我國受到美國最新一版《芯片法案》的限制，已經(jīng)出現(xiàn)高端芯片采購困難的困境。在算法方面，以ChatGPT為代表的生成式大模型出現(xiàn)非開源化趨勢。其二，我國的人工智能技術(shù)的開發(fā)和應用主體主要是國內(nèi)公司，包括傳統(tǒng)的互聯(lián)網(wǎng)企業(yè)、專門從事人工智能產(chǎn)業(yè)的企業(yè)和高?？蒲性核取Ｆ淙?，在制定人工智能監(jiān)管政策時，必須將國家安全放在重要位置。

今后，在我國人工智能監(jiān)管立法中，應關(guān)注以下重要議題。一方面，主體的權(quán)利邊界與歸屬問題。我們需要盡快厘清算法的開發(fā)過程和輸出結(jié)果中的各項權(quán)益分配和主體關(guān)系。其中，存在熱議的主要有兩項：其一，用于算法訓練的數(shù)據(jù)所承載的權(quán)益及分配。理論界對于數(shù)據(jù)權(quán)屬有數(shù)據(jù)財產(chǎn)權(quán)說、數(shù)據(jù)資產(chǎn)說、有限產(chǎn)權(quán)說等不同觀點，主流觀點認為數(shù)據(jù)財產(chǎn)權(quán)說不符合網(wǎng)絡信息社會發(fā)展的需要，可能產(chǎn)生數(shù)據(jù)壟斷等巨大的外部性。但對于數(shù)據(jù)權(quán)益如何正面定性及分配的問題，至今仍無定論。其二，人工智能生成的內(nèi)容在主體權(quán)利間的分配問題。人工智能具有一定的創(chuàng)造能力，但是其創(chuàng)造能力是基于輸入的語料，這些語料可能是具有版權(quán)的信息。如何定位機器學習和人工學習的差異，機器如何使用他人具有知識產(chǎn)權(quán)的知識屬于合理使用，侵權(quán)邊界如何認定等議題，已成為知識產(chǎn)權(quán)領域面臨的時代命題。

另一方面，人工智能侵權(quán)如何歸責問題。算法決策造成的侵權(quán)歸責，至少有四方面內(nèi)容有待明確，即應當向誰進行追責？采用何種追責原則？如何向適格的法律主體歸責？責任承擔形式為何？這些問題會直接影響侵權(quán)歸責的合法性與合理性。其一，應當向誰進行追責。關(guān)于人工智能侵權(quán)的責任主體，存在兩點爭論：（1）自動化決策的人工智能能否獨立承擔責任。（2）法律主體之間的責任如何分配。人工智能應用領域涉及的法律主體包括技術(shù)開發(fā)者、服務提供者和使用者，對于相關(guān)責任如何在三者之間進行合理分配的問題，學術(shù)界尚未形成共識。其二，采用何種追責原則。不同類型人工智能的風險不同，應用領域也有差別，技術(shù)研發(fā)者、服務提供者往往承擔差異化義務，以上因素導致難以適用統(tǒng)一的追責原則。其三，如何向適格的法律主體歸責。人工智能主要通過“人機交互”的方式，在具體場景中進行應用，所以要向適格的法律主體歸責，必須通過司法證明厘清人機分工，確定人工介入的行為是否直接屬于法律上的不法行為。其四，責任承擔形式。責任承擔形式是人工智能侵權(quán)歸責繞不開的一個問題，這關(guān)乎責任最終如何落實以及產(chǎn)生何種效能。

（作者：周翔  浙江大學光華法學院特聘研究員）