【專家沙龍】
◎主持人：本報記者 陳可軒
嘉 賓：孫春晨 國家科技倫理委員會委員、中國倫理學會會長
張成崗 清華大學社會學系教授、社會治理與發展研究院院長
趙 鵬 中國政法大學教授、法治政府研究院院長
從機器人登上春晚舞臺到DeepSeek火爆全網，今年以來，科技創新正迅速以其顛覆性力量不斷出圈，并重塑我們的生活。
然而，科技觸手可及、造福于人的同時也帶來隱憂。以人工智能、生物醫藥等領域為代表，技術濫用已不再是實驗室里的想象，而是在眾多應用場景中廣泛存在且悄然改變著社會。以人工智能領域為例，使用深度偽造技術的“AI換臉”軟件可以一鍵生成虛假圖像、聲音、視頻，“像素級逼真”的虛假信息給個人和企業帶來切實損害，引發社會秩序與信任危機。
如何守住倫理底線，推動科學良性、有序發展？科技日報邀請倫理學、社會學、法學領域的學者，共同探討科技倫理治理。
科技研究需守住倫理底線
主持人：科技創新為什么需要倫理先行？
孫春晨：人類創造的科學技術，有可能反過來制約人類自身。科學發現和技術突破在造福人類的同時，也帶來難以預判的風險。科技的誤用、濫用將對國家安全、社會公共利益及個人權利等造成顯性與潛在的威脅。因此，倫理先行有其必要性。
張成崗：倫理先行，既是理論議題，也是實踐要求。近年來，生物技術、人工智能等新興技術的發展常對社會的既有道德規范產生沖擊。我們不得不思考，什么樣的技術是“善”和“應當”的。例如，2018年的“基因編輯嬰兒”事件引發學界和社會的廣泛討論，其中既有對技術發展倫理規約體系的反思，更有對新技術應用后果不確定性風險的深層擔憂。倫理先行對應著倫理學研究中的預防原則。該原則要求，即便沒有確切證據，也要預想各類糟糕情況，防患于未然。
趙鵬：倫理先行，可以在引導科技發展大方向的同時，給予科創主體更大的創新空間。例如，人工智能領域已出現了大量基于倫理原則的治理文件，其核心考慮就是既引導科技發展的基本方向，又給相關研發機構和企業一定空間，使其可以根據具體的技術場景選擇研究內容。
主持人：漠視科技倫理可能造成哪些潛在風險？
孫春晨：人類科技發展的歷史表明，隨著科學技術的先進性和復雜程度的提高，科技創新活動帶來的風險也會不斷增大。科技創新給人類社會生活帶來巨大發展“紅利”的同時，也會引發不確定倫理風險，如人工智能發展帶來的算法歧視、隱私保護等社會問題，基因編輯、基因增強等帶來不平等的潛在可能。這些也已成為人類不得不面對的現實難題。
張成崗：這些挑戰不僅威脅著個人權利，也對社會的公正性和傳統道德準則提出了嚴峻考驗。
理解社會與技術的相互影響
主持人：有觀點認為，技術是獨立于社會運行的工具，科研工作者可以自主決定技術的發展方向。幾位專家怎么看這種觀點？
趙鵬：我認為，科技研發本身并非完全客觀，而是暗含了價值選擇。優先選擇何種科學研究、技術路線等都受隱含的社會價值影響。但這種社會價值相對比較隱秘，相關法律往往只聚焦于技術實踐環節的使用細節，而難以對技術暗含的社會價值進行調整。
張成崗：是的，對技術的認知要避免“就技術論技術”的邏輯。社會愿望與需求一直是影響技術發展速度與方向的重要力量，對技術的深入理解離不開對社會背景的理解。
孫春晨：技術發展是人類對未知領域的探索與開拓，具有明顯的不確定性，如不確定的技術路線、應用場景和商業模式、社會影響等。這些不確定因素，使科技創新成果的應用推廣存在倫理風險。
主持人：看來科技發展中出現的倫理問題并非孤立存在，而是與社會治理的方方面面聯系在一起。
張成崗：是的，特別是那些更接近日常生活、普及率更高的科學技術，其風險可能更加復雜。其中既包括人類正在研發的新技術本身產生的風險，也包括技術嵌合于社會制度、人性中之后可能產生的風險。例如，在互聯網的影響下，現代社會的道德不端行為可能對遙遠地域和子孫后代產生影響，這種影響遠比我們能夠預想的深刻和激進。
趙鵬：科學技術與社會秩序之間相互影響、共同演化。當生活更多地與技術交織，技術也將更多地影響我們的價值體系、行為規范、文化等。以藥品監管為例，假設某種創新藥品能讓使用者獲得體能或智力上的競爭優勢，那么可以設想，一旦其被批準使用，就很可能造成技術運用的“軍備競賽”，讓擁有更多財富或資源的主體獲得更大的社會競爭優勢，繼而加劇社會不平等。從這個角度看，需要更多從尊重和保障人權的維度思考這一問題，而不僅從風險與收益的功利計算角度予以回應。
科技向善還須良法善治
主持人：除了要求科研人員恪守職業道德，我們還需要從哪些方面著手進行科技倫理治理？
趙鵬：法律在這方面可以扮演多種功能。一種是通過程序促成對話、反思，從而形成好的決策。例如，要求開展倫理審查，要求舉辦公共倫理論壇與社會對話等。這些程序設計有助于利益相關方、社會成員等進行交流，形成共識或者至少了解相應選擇的潛在影響。另一種是當各種倫理主張無法調和時，將復雜的技術倫理問題分配至多個決策場所，并在各個決策者之間建立制衡機制，確保倫理爭論得到及時有效的解決。
孫春晨：科技倫理治理不應被狹義地理解為對科技活動的倫理治理。我們應當從更為寬廣的視野來理解科技倫理治理與國家治理現代化之間的關系。除了與科技直接相關的領域外，諸如國際關系、個人隱私和社區管理等人類社會生活的其他領域，同樣需要進行相應的倫理治理。
張成崗：近年來，我非常關注信息技術治理問題。在推進國家智能社會治理綜合實驗基地建設的工作中，我們的研究團隊與內蒙古鄂爾多斯市緊密合作，開展了關于機制、評價、倫理、信任等方面的理論研究和社會實驗。
我認為人工智能技術不僅是一種治理工具，更應當成為人們未來生活的一個重要組成部分。應賦權和激活治理主體，達到“共享共治”的目標。一方面，在鼓勵技術創新同時，需加強倫理教育與宣傳，切實提高從業者及大眾的倫理意識；另一方面，要健全政府、學界、公眾代表等多方參與的倫理審查機制，確保決策的科學性和民主性。此外，還應建立倫理風險預警機制，及時發現并有效解決技術創新中的倫理問題，防范潛在風險，促進人工智能技術健康、有序發展。
主持人：我們該如何探尋科技倫理治理的“中國路徑”？
張成崗：在新興科技領域，應當提前布局監管框架，促進技術創新與風險防控平衡發展，實現新興領域治理與發展的雙贏，建立符合中國國情的新興科技風險治理模式尤為重要。例如，我國人工智能技術的飛速演進和廣泛應用正深遠地影響倫理觀念、社會治理模式及人與技術的共生關系。傳統封閉、單向的倫理規范制定模式已顯不足，難以有效應對日益復雜的倫理挑戰。倫理治理的關注內容也從單一倫理問題的討論轉向探索治理對社會發展多方面的影響。因此，探討一種多元主體參與、交互式、開放性的參與式倫理規約變得至關重要。科技倫理治理的“中國路徑”探尋是一項系統工程，需要積極適應新興科技發展的新趨勢、新特點。既要尋求倫理治理的“最大公約數”，又要因技制宜、因地制宜，注重差異性和豐富性，構建更具韌性、包容性和前瞻性的倫理治理體系，形成倫理治理結構優化與治理效能提升的良性循環。
趙鵬：相較于科技倫理治理較為成熟的國家，我國的科技倫理在科技治理體系中的作用仍然非常薄弱。對新興科技的社會倫理反思等尚未在全社會形成廣泛的討論。這會產生兩方面的影響。一方面，經過倫理討論形成的共識，不能及時地被法律和監管框架所吸收；另一方面，缺乏與公眾制度化的倫理溝通機制，影響了公眾對科技的客觀認知，這可能加劇公眾對技術創新的信任危機，帶來新的社會治理問題。
我認為，為了加強科技倫理治理的實效，需要適度強化法律的作用。對個體權利有實質性影響以及產生重大倫理問題的領域，立法需要更積極地介入。我們需要認識到，當代的科學研究已不僅僅是抽象純粹的知識與思辨，更伴隨著工具使用、實驗等實踐性活動，必然對社會產生影響。當科技研發與環境安全、家庭關系、社會公平等受法律保護的領域產生直接關聯，并對現有社會秩序產生直接而重大的影響，就有必要通過法律的“命令—控制”體系建立直接的管制架構。當然，立法需要根據技術發展和社會變化及時反思、調整相關規則。
對于一般的倫理議題，立法可以劃定基本原則，充分依賴相關機構的自主管理。
相關的法治建構，可以更關注程序，而不應僅僅從既定倫理道德觀念出發，向科學研究活動發出規范性的呼吁或者指令。相反，應該通過法律創造一種結構，推動科學與社會價值體系之間建立適當有效的連接，使兩者能夠持續地交換資訊、交流對話、相互理解。
孫春晨：當代國家治理和社會治理的一個重要著力點是對科技活動領域的治理。而科技創新活動引發的社會生活各領域的重大變化，使社會治理呈現出治理主體多元化、治理領域多樣化和治理方式差異化的趨勢。
2022年3月，中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》，對我國科技倫理治理工作作出系統部署，確立了我國科技倫理治理的指導思想，提出了倫理先行、依法依規、敏捷治理、立足國情、開放合作的科技倫理治理基本要求，明確了增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明的科技倫理原則。這一頂層設計，對有效防范科技倫理風險、推動我國科技向善發展具有里程碑式的重大意義。
科技倫理治理貫徹實施上述治理要求和倫理原則，與國家治理現代化走向“善治”的倫理目標相契合。以科技倫理治理為代表的各領域的社會治理聯動合作，將有力推進國家治理現代化進程。
【專家沙龍】
◎主持人：本報記者 陳可軒
嘉 賓：孫春晨 國家科技倫理委員會委員、中國倫理學會會長
張成崗 清華大學社會學系教授、社會治理與發展研究院院長
趙 鵬 中國政法大學教授、法治政府研究院院長
從機器人登上春晚舞臺到DeepSeek火爆全網，今年以來，科技創新正迅速以其顛覆性力量不斷出圈，并重塑我們的生活。
然而，科技觸手可及、造福于人的同時也帶來隱憂。以人工智能、生物醫藥等領域為代表，技術濫用已不再是實驗室里的想象，而是在眾多應用場景中廣泛存在且悄然改變著社會。以人工智能領域為例，使用深度偽造技術的“AI換臉”軟件可以一鍵生成虛假圖像、聲音、視頻，“像素級逼真”的虛假信息給個人和企業帶來切實損害，引發社會秩序與信任危機。
如何守住倫理底線，推動科學良性、有序發展？科技日報邀請倫理學、社會學、法學領域的學者，共同探討科技倫理治理。
科技研究需守住倫理底線
主持人：科技創新為什么需要倫理先行？
孫春晨：人類創造的科學技術，有可能反過來制約人類自身。科學發現和技術突破在造福人類的同時，也帶來難以預判的風險。科技的誤用、濫用將對國家安全、社會公共利益及個人權利等造成顯性與潛在的威脅。因此，倫理先行有其必要性。
張成崗：倫理先行，既是理論議題，也是實踐要求。近年來，生物技術、人工智能等新興技術的發展常對社會的既有道德規范產生沖擊。我們不得不思考，什么樣的技術是“善”和“應當”的。例如，2018年的“基因編輯嬰兒”事件引發學界和社會的廣泛討論，其中既有對技術發展倫理規約體系的反思，更有對新技術應用后果不確定性風險的深層擔憂。倫理先行對應著倫理學研究中的預防原則。該原則要求，即便沒有確切證據，也要預想各類糟糕情況，防患于未然。
趙鵬：倫理先行，可以在引導科技發展大方向的同時，給予科創主體更大的創新空間。例如，人工智能領域已出現了大量基于倫理原則的治理文件，其核心考慮就是既引導科技發展的基本方向，又給相關研發機構和企業一定空間，使其可以根據具體的技術場景選擇研究內容。
主持人：漠視科技倫理可能造成哪些潛在風險？
孫春晨：人類科技發展的歷史表明，隨著科學技術的先進性和復雜程度的提高，科技創新活動帶來的風險也會不斷增大。科技創新給人類社會生活帶來巨大發展“紅利”的同時，也會引發不確定倫理風險，如人工智能發展帶來的算法歧視、隱私保護等社會問題，基因編輯、基因增強等帶來不平等的潛在可能。這些也已成為人類不得不面對的現實難題。
張成崗：這些挑戰不僅威脅著個人權利，也對社會的公正性和傳統道德準則提出了嚴峻考驗。
理解社會與技術的相互影響
主持人：有觀點認為，技術是獨立于社會運行的工具，科研工作者可以自主決定技術的發展方向。幾位專家怎么看這種觀點？
趙鵬：我認為，科技研發本身并非完全客觀，而是暗含了價值選擇。優先選擇何種科學研究、技術路線等都受隱含的社會價值影響。但這種社會價值相對比較隱秘，相關法律往往只聚焦于技術實踐環節的使用細節，而難以對技術暗含的社會價值進行調整。
張成崗：是的，對技術的認知要避免“就技術論技術”的邏輯。社會愿望與需求一直是影響技術發展速度與方向的重要力量，對技術的深入理解離不開對社會背景的理解。
孫春晨：技術發展是人類對未知領域的探索與開拓，具有明顯的不確定性，如不確定的技術路線、應用場景和商業模式、社會影響等。這些不確定因素，使科技創新成果的應用推廣存在倫理風險。
主持人：看來科技發展中出現的倫理問題并非孤立存在，而是與社會治理的方方面面聯系在一起。
張成崗：是的，特別是那些更接近日常生活、普及率更高的科學技術，其風險可能更加復雜。其中既包括人類正在研發的新技術本身產生的風險，也包括技術嵌合于社會制度、人性中之后可能產生的風險。例如，在互聯網的影響下，現代社會的道德不端行為可能對遙遠地域和子孫后代產生影響，這種影響遠比我們能夠預想的深刻和激進。
趙鵬：科學技術與社會秩序之間相互影響、共同演化。當生活更多地與技術交織，技術也將更多地影響我們的價值體系、行為規范、文化等。以藥品監管為例，假設某種創新藥品能讓使用者獲得體能或智力上的競爭優勢，那么可以設想，一旦其被批準使用，就很可能造成技術運用的“軍備競賽”，讓擁有更多財富或資源的主體獲得更大的社會競爭優勢，繼而加劇社會不平等。從這個角度看，需要更多從尊重和保障人權的維度思考這一問題，而不僅從風險與收益的功利計算角度予以回應。
科技向善還須良法善治
主持人：除了要求科研人員恪守職業道德，我們還需要從哪些方面著手進行科技倫理治理？
趙鵬：法律在這方面可以扮演多種功能。一種是通過程序促成對話、反思，從而形成好的決策。例如，要求開展倫理審查，要求舉辦公共倫理論壇與社會對話等。這些程序設計有助于利益相關方、社會成員等進行交流，形成共識或者至少了解相應選擇的潛在影響。另一種是當各種倫理主張無法調和時，將復雜的技術倫理問題分配至多個決策場所，并在各個決策者之間建立制衡機制，確保倫理爭論得到及時有效的解決。
孫春晨：科技倫理治理不應被狹義地理解為對科技活動的倫理治理。我們應當從更為寬廣的視野來理解科技倫理治理與國家治理現代化之間的關系。除了與科技直接相關的領域外，諸如國際關系、個人隱私和社區管理等人類社會生活的其他領域，同樣需要進行相應的倫理治理。
張成崗：近年來，我非常關注信息技術治理問題。在推進國家智能社會治理綜合實驗基地建設的工作中，我們的研究團隊與內蒙古鄂爾多斯市緊密合作，開展了關于機制、評價、倫理、信任等方面的理論研究和社會實驗。
我認為人工智能技術不僅是一種治理工具，更應當成為人們未來生活的一個重要組成部分。應賦權和激活治理主體，達到“共享共治”的目標。一方面，在鼓勵技術創新同時，需加強倫理教育與宣傳，切實提高從業者及大眾的倫理意識；另一方面，要健全政府、學界、公眾代表等多方參與的倫理審查機制，確保決策的科學性和民主性。此外，還應建立倫理風險預警機制，及時發現并有效解決技術創新中的倫理問題，防范潛在風險，促進人工智能技術健康、有序發展。
主持人：我們該如何探尋科技倫理治理的“中國路徑”？
張成崗：在新興科技領域，應當提前布局監管框架，促進技術創新與風險防控平衡發展，實現新興領域治理與發展的雙贏，建立符合中國國情的新興科技風險治理模式尤為重要。例如，我國人工智能技術的飛速演進和廣泛應用正深遠地影響倫理觀念、社會治理模式及人與技術的共生關系。傳統封閉、單向的倫理規范制定模式已顯不足，難以有效應對日益復雜的倫理挑戰。倫理治理的關注內容也從單一倫理問題的討論轉向探索治理對社會發展多方面的影響。因此，探討一種多元主體參與、交互式、開放性的參與式倫理規約變得至關重要。科技倫理治理的“中國路徑”探尋是一項系統工程，需要積極適應新興科技發展的新趨勢、新特點。既要尋求倫理治理的“最大公約數”，又要因技制宜、因地制宜，注重差異性和豐富性，構建更具韌性、包容性和前瞻性的倫理治理體系，形成倫理治理結構優化與治理效能提升的良性循環。
趙鵬：相較于科技倫理治理較為成熟的國家，我國的科技倫理在科技治理體系中的作用仍然非常薄弱。對新興科技的社會倫理反思等尚未在全社會形成廣泛的討論。這會產生兩方面的影響。一方面，經過倫理討論形成的共識，不能及時地被法律和監管框架所吸收；另一方面，缺乏與公眾制度化的倫理溝通機制，影響了公眾對科技的客觀認知，這可能加劇公眾對技術創新的信任危機，帶來新的社會治理問題。
我認為，為了加強科技倫理治理的實效，需要適度強化法律的作用。對個體權利有實質性影響以及產生重大倫理問題的領域，立法需要更積極地介入。我們需要認識到，當代的科學研究已不僅僅是抽象純粹的知識與思辨，更伴隨著工具使用、實驗等實踐性活動，必然對社會產生影響。當科技研發與環境安全、家庭關系、社會公平等受法律保護的領域產生直接關聯，并對現有社會秩序產生直接而重大的影響，就有必要通過法律的“命令—控制”體系建立直接的管制架構。當然，立法需要根據技術發展和社會變化及時反思、調整相關規則。
對于一般的倫理議題，立法可以劃定基本原則，充分依賴相關機構的自主管理。
相關的法治建構，可以更關注程序，而不應僅僅從既定倫理道德觀念出發，向科學研究活動發出規范性的呼吁或者指令。相反，應該通過法律創造一種結構，推動科學與社會價值體系之間建立適當有效的連接，使兩者能夠持續地交換資訊、交流對話、相互理解。
孫春晨：當代國家治理和社會治理的一個重要著力點是對科技活動領域的治理。而科技創新活動引發的社會生活各領域的重大變化，使社會治理呈現出治理主體多元化、治理領域多樣化和治理方式差異化的趨勢。
2022年3月，中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》，對我國科技倫理治理工作作出系統部署，確立了我國科技倫理治理的指導思想，提出了倫理先行、依法依規、敏捷治理、立足國情、開放合作的科技倫理治理基本要求，明確了增進人類福祉、尊重生命權利、堅持公平公正、合理控制風險、保持公開透明的科技倫理原則。這一頂層設計，對有效防范科技倫理風險、推動我國科技向善發展具有里程碑式的重大意義。
科技倫理治理貫徹實施上述治理要求和倫理原則，與國家治理現代化走向“善治”的倫理目標相契合。以科技倫理治理為代表的各領域的社會治理聯動合作，將有力推進國家治理現代化進程。
本文鏈接：http://www.020gz.com.cn/news-2-1380-0.html倫理先行，把好科技創新“大方向”
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇：超級智能體時代漸行漸近
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
