7 月 23 日消息,科技部官網今天公布了《駕駛自動化技術研發倫理指引》,意在防范技術研發與產品應用過程中的科技倫理風險,推動該領域健康發展。
《指引》對不同類型駕駛自動化技術明確了相應的倫理規范要求。整理如下:
先進駕駛輔助階段是指2 級及以下的駕駛自動化,其責任主體通常是人類駕駛員有限制階段的自動駕駛包括3 級和 4 級駕駛自動化,責任主體因具體運行場景而異,用戶和自動駕駛系統都可能成為責任主體;無限制階段的自動駕駛為5 級的駕駛自動化,除非特殊情況下有用戶主動介入操作,否則,無限制階段自動駕駛的責任主體以自動駕駛系統為主
當自動駕駛系統作為責任主體時,應當能夠根據有關法律法規等向相關自然人主體或法人主體清晰追責。
《指引》提出,5 級駕駛自動化由完全自動駕駛系統完成車輛的橫向和縱向控制,負責行車過程中對目標和事件的探測與響應,并在緊急情況下采取最小風險策略,以保障車輛及周圍環境的安全。5 級自動駕駛不受設計運行范圍的限制,能夠在任何可行駛條件下正常運行。若存在潛在安全風險,自動駕駛系統可暫緩滿足用戶退出自動駕駛的請求,并執行最小風險策略以達到最小風險狀態。當自動駕駛系統作為自動駕駛責任主體時,應當能夠根據有關法律法規、技術標準向相關自然人主體或法人主體(包括但不限于自動駕駛系統開發者、自動駕駛系統生產商、自動駕駛汽車權利人、自動駕駛系統用戶)清晰追責。
《指引》強調,自動駕駛的基本原則應為:
以人為本、增進福祉 駕駛自動化技術的研究開發應堅持以人為本的發展思想,充分體現人文關懷,積極引導科技向善,應有利于促進經濟發展、社會進步、民生改善,有利于促進交通效率提高和生態環境可持續發展。安全優先、尊重生命 駕駛自動化技術的研究開發和應用必須充分考慮安全性,既要盡最大可能保證用戶及參與者的生命安全,還應高度重視保護車輛周圍人員生命與環境安全。在面對不可避免的交通事故或極端行車環境時,應確保駕駛自動化系統能高度尊重生命,積極尋求有效應對方法最大限度降低對人的傷害。公平公正、避免偏見 應確保在駕駛自動化系統的正常運行過程中或在面臨緊急情況時,系統決策不受人類個體屬性和個體特征(如年齡、性別、種族、身體特征、社會地位、財富水平或城鄉背景等)的影響。應避免單一技術路線或單一技術主體造成的技術壟斷,以防止駕駛自動化系統成為部分群體道德觀念的表達載體,導致對其他群體的不公正對待。確保在駕駛自動化系統設計階段所有相關群體的利益得到平等考量。知情保障、信息公開 與駕駛自動化技術相關的算法、模型等內容應當被清晰記錄、隨時可查。依照相關法律法規、國家標準及其他有關文件在數據記錄、存儲、讀取以及重要數據保護等方面的要求,保證與駕駛自動化功能相關的重要數據得到安全記錄、妥善保存,保障利益相關方的知情權。涉及新的、可能具有爭議的技術時,應充分討論,廣泛聽取利益相關方和公眾意見