?

　　機器人新聞寫作的風險評估及責任機制探討

　　內容提要:寫稿機器人已是當下媒體機構中一支不可忽視的新聞生產力量。國內外新聞傳播領域重在關注機器人在新聞生產中的應用，對其可能存在的風險問題認識相對不足，對寫稿機器人相關各方的責任研究比較薄弱。本文就寫稿機器人的設計者、生產者、運營者與使用者應當為其行為承擔怎樣的責任，對寫稿機器人又該如何實施監管提出看法。

　　關鍵詞:寫稿機器人；新聞寫作；風險評估；責任機制

　　人工智能應用于媒體實踐的一個重要方面就是機器人新聞寫作。如今，越來越多的主流媒體引入寫稿機器人作為內容生產工具。但機器人新聞寫作是把"雙刃劍"，其既可以通過智能化技術更快更好地采集和處理新聞資源，解決媒體人在新聞生產中的一些痛點，又可能給內容生產安全帶來多方面的風險。

　　當寫稿機器人犯錯時，又該由誰來為此買單？防范和杜絕寫稿機器人可能引發的風險問題，需要厘清其設計者、生產者、所有者、使用者以及監管者的責任歸屬與權利邊界，從法律層面保證寫稿機器人設計、生產的合理性，并督促使用者正確應用、監管者科學管理，從而推動治理原則貫穿寫稿機器人寫作與服務的全過程。

　　一、寫稿機器人的應用現狀

　　自2015年9月10日，騰訊發布國內首篇由機器人撰寫的新聞稿《8月CPI同比上漲2%創12個月新高》以來，我國寫稿機器人大舉進軍媒體。

　　（一）應用范圍越來越廣。從新華社等國家級媒體引領，到省、市級媒體跟進，我國機器人新聞寫作起步雖較晚，但發展速度非常快。據不完全統計，全國自主研發或引進寫稿機器人的媒體已超過30家，涌現出了一大批機器寫手，其中以"小"字命名的居多，如新華社的"快筆小新"、人民日報的"小融"、光明日報的"小明"、浙江衛視的"小聰"……

　　更為關鍵的是，寫稿機器人已不再是用來吸引眼球的噱頭，而是真正在新聞采編中發揮獨特作用。2019年8月，在超強臺風"利奇馬"報道中，浙江廣電集團旗下的錢江都市頻道通過機器人快速制作了多條非常直觀專業的數據新聞視頻，取得了很好的傳播效果。

　　（二）應用頻率越來越高。寫稿機器人不僅在垂直領域報道中作品被高頻率采用，而且在一些傳統媒體和新媒體上開設欄目專題。早在2015年11月，新華社首位"機器人員工"——"快筆小新"就常態化向一些欄目供稿；2016年12月，微軟"小冰"加入《錢江晚報》，在"小時新聞"APP上開設"小冰公社"；2017年8月，封面新聞寫稿機器人在APP設立"‘小冰’的封言封語"專欄；2019年4月，中國財富網研發的寫稿機器人——"財富小精靈"上線，并發布"智訊"新聞。

　　（三）應用功能越來越強。從內容上看，之前寫稿機器人的報道范圍主要集中在財經、體育、災難、天氣等以簡單數據呈現為主的領域。如今，寫稿機器人的寫作內容已向民生新聞甚至時政新聞延伸，開始探索自動生成新聞綜述、新聞評論等較復雜的報道。2017年全國兩會期間，廣州日報寫稿機器人"阿同""阿樂"連續寫出《政府工作報告》熱詞分析、外交部長記者會熱點問題分析等多篇報道。

　　從表現形態上看，寫稿機器人已從文字向視頻拓展，實現了視頻的智能化生產和編輯。2018年3月2日，新華社"媒體大腦"從5億網頁中，僅用15秒鐘就生產出第一條完全由機器生產的視頻新聞。2019年8月26日，新華社又推出"智能新聞機器人第一梯隊"，發布自主研發的25款媒體機器人，大大豐富了媒體機器人的生產功能與產品形態。

　　（四）應用影響越來越大。我們不知什么時候點擊的新聞，就是出自24小時無眠無休、永不疲倦的機器人之手。寫作速度快，生產數量多，準確程度高，可突破時空束縛，這些無疑是寫稿機器人非常顯著的特點，也是寫稿機器人贏得影響力的原因所在。特別是在突發事件報道中，寫稿機器人可根據算法在第一時間自動生成稿件，時效優勢明顯。如2017年8月8日21時19分四川九寨溝發生7級地震，機器人僅用25秒就寫出新聞稿實現全球首發。

　　（五）應用前景越來越好。在未來，智能化將成為媒體最重要的特點之一。一方面，隨著大數據的發展，媒體人在新聞資源的采集和處理過程中，勢必需要引入更多更先進的機器人，以不斷提高新聞生產的能力與水平。另一方面，隨著對人工智能識別技術以及學習技術的升級，寫稿機器人的能力不斷被挖掘和提升，其會涉足更多報道領域，突破更多媒體的"內容防線"。如目前較難駕馭的深度報道、時政新聞等，也有可能成為機器人的新寫作技能。屆時，我們必將迎來一個全新的媒體生態。

　　二、機器人新聞寫作存在的內容風險

　　從實踐層面看，由于多種因素限制，機器人新聞寫作還不能完全避免犯錯。而且由于寫稿機器人的特殊性，其一旦偏離"軌道"，可能產生的不良后果波及面更廣、影響更嚴重。

　　（一）內容的失真風險，主要是數據準不準的問題。寫稿機器人應用需要以海量的數據作支撐，其內容的生產質量取決于積累的穩定可靠的數據源。在機器人新聞寫作中，數據本源真不真，有沒有遭受污染甚至篡改？數據質量高不高，有沒有采集到核心關鍵數據？數據規模大不大，多樣性是不是足夠？如果基礎數據集不實、不全、不準確或處理數據的算法包含錯誤，那么寫稿機器人就可能產生錯誤報道。當前，"信息孤島"問題依然突出，很多數據沒有實現互通、共享，制約了數據集質量。

　　（二）內容的導向風險，主要是觀點正不正的問題。技術需要正確的價值觀來引領，寫稿機器人的算法由設計者的價值觀決定。當前，媒體應用的寫稿機器人有的是與技術公司合作開發，有的是媒體完全自主研發，也有的是直接從第三方引進。寫稿機器人設計生產主體多元，這一方面有利于激發創新活力，另一方面因為標準不統一，又可能帶來安全隱患。寫稿機器人應確保寫作內容的絕對安全，決不能只追求"快不快"而不管"對不對"，只追求"真不真"而不管"正不正"，只追求"多不多"而不管"好不好"，放棄"舉旗定向"的責任，任由背離公序良俗甚至觸犯法律法規的內容"出籠"。

　　（三）內容的偏見風險，主要是事實全不全的問題。機器是中立的，但為機器設計算法程序的人卻不是中立的。當設計者在算法建模中選擇包含哪些屬性或忽略哪些屬性時，個人的思想不同、立場不同、角度不同、態度不同，往往直接影響甚至決定結果，導致得出的可能是既無法代表事實也無法反映存在的偏見。同樣，數據收集本身是帶著設計者主觀意識的，有著"天然的偏見基因"。當設計者以自己的理解去獲取、存儲、分析數據，就可能在算法中植入偏見，并在應用中不斷延續和擴大。

　　（四）內容的侵權風險，主要是法規依不依的問題。獲取和處理海量信息數據，不可避免會涉及個人隱私保護這一重要倫理問題。有的算法設計者可能會無視用戶的隱私保護:一方面過度收集數據，如將個人敏感數據納入收集范圍；另一方面對個人數據缺少有效保護，隨意流轉數據，導致數據泄露。在互聯網生活早已成為公共生活一部分的今天，完全拒絕讓渡任何個人信息無法想象。但如果寫稿機器人收集數據得不到合理管控，人類將被置于隱私"裸奔"境地，產生嚴重的倫理問題。另外，聚合全網信息而形成的大數據也容易引發侵犯作品著作權問題。

　　(五)內容的"黑箱"風險，主要是技術靈不靈的問題。專家指出，人工智能具有不可預知性，可能做出難以預測的損害性行為。"即使是最細心的設計者、編程者以及制造者都沒有辦法控制或者預測人工智能系統在脫離他們之后將會經歷些什么。"[1]就寫稿機器人而言，其怎樣利用算法進行新聞生產和信息推薦的過程對于普通用戶來說是個不可見的隱蔽"黑箱"，后臺不可見的新聞生產讓機器人寫稿缺乏必要的公眾監督。所以從某種程度說，寫稿機器人存在操作權失控、被惡意使用或技術管理失當、遭受外來攻擊等所帶來的安全威脅。

　　三、構建寫稿機器人的責任機制

　　善治才能有"善智"。對于寫稿機器人，不可心存"先發展后治理"的僥幸。2019年6月17日，國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》，給包括寫稿機器人在內的人工智能的健康發展立下規矩。

　　我們必須增強風險意識，把黨管媒體的原則延伸到技術領域，加強前瞻預防與約束引導，及早對寫稿機器人應用中已出現或潛在的內容風險問題進行處理、規范、監管，以確保寫稿機器人安全、可靠、可控，使寫稿機器人走上健康、可持續發展的軌道。

　　（一）寫稿機器人的設計者需要把好大局方向。寫稿機器人具有技術屬性和意識形態屬性高度融合的特征。為此，寫稿機器人的設計者必須同時具有技術的先進性與方向的正確性。

　　作為設計者要堅持正確政治方向。寫稿機器人的設計者是新聞輿論工作的重要參與者，屬于新時代新聞輿論工作者。新聞輿論工作是有方向、有立場、有原則的。寫稿機器人的設計者頭腦同樣要特別清醒，同樣必須樹立馬克思主義新聞觀，恪守新聞工作的黨性原則，始終成為黨和人民的喉舌；同樣必須把堅持正確政治方向擺在第一位，做到堅定政治信仰、站穩政治立場、保持政治定力、把牢政治方向。

　　作為設計者要堅持正確輿論導向。習近平總書記指出:"新聞輿論工作各個方面、各個環節都要堅持正確輿論導向。"機器人新聞寫作也不例外。正確引導輿論同樣必須成為寫稿機器人設計者的初心和使命，要把講導向落實到全體研發設計人員身上，落實到研發設計的每一個環節和每一個程序中。設計者要珍惜并用好手中的設計權，確保設計出來的算法能夠融入社會主流價值、符合社會主流規范，在輿論導向上不出絲毫偏差。

　　作為設計者要堅持正確工作取向。作為寫稿機器人的設計者要堅持以人民為中心的思想，不斷提升設計的適用性、可操作性，增強設計的透明性、可解釋性。特別是要告知可能產生的風險和影響，讓利益相關者知道算法的設計意圖、設計目標、運行效率、適用條件和存在的缺陷，了解算法的運行機制和做出特定決定的原因，確保用戶知情權，從而更好地防范與應對機器人可能帶給我們的風險。

　　（二）寫稿機器人的生產者需要堅持質量標準。人工智能存在風險主體多元性和不可預知性。寫稿機器人的生產者要建立科學的質量標準和控制體系，以提升產品安全。

　　作為生產者要不斷提升生產環節的可公開。要把大眾看不見的東西變為可充分了解的信息，切實提高大眾的知情權，虛心傾聽大眾建議，促進生產環節的科學化。例如人工智能系統的部件制造者可能沒有想到自己生產的部件會被應用在人工智能系統上。對此，生產者要給予公開，接受大眾監督。

　　作為生產者要不斷完善產品質量的可追溯。圍繞寫稿機器人生產各環節，建設跨領域的寫稿機器人質量測試平臺，開發系統性的測試方法和指標體系，推動寫稿機器人安全認證，評估寫稿機器人產品和系統的關鍵性能，構建動態的寫稿機器人研發應用評價機制。

　　作為生產者要不斷推進問題差錯的可校準。要對參與人工智能系統部件的多元主體生產者，由于質量問題而發生的差錯，給予持續校準。同時，要將責任分配給寫稿機器人系統每一部件的生產者，建成完整的技術標準、服務體系，推行產品質量"三包"制度。

　　（三）寫稿機器人的運營者需要樹立陣地意識。寫稿機器人是生產意識形態產品的新型工具，無疑是意識形態的新興陣地。要根據"誰引進，誰負責""誰運營，誰負責""誰使用，誰負責"原則，擔起意識形態工作主體責任制，做到守土有責、守土負責、守土盡責，履行好內容審核、安全把關的責任。

　　應用前的評估。媒體要加強對寫稿機器人應用于新聞生產可能產生的影響進行全面評估，分析效果與潛在危害，制定對算法系統運行的風險評估標準，構建復雜應用場景下突發狀況的解決方案，甚至在寫稿機器人的研發、設計、生產階段，媒體單位就提前主動介入，以促進人工智能算法邏輯與社會價值規范的統一。

　　應用后的管理。要制定寫稿機器人的崗位管理、生產流程、發布標準等規定，建構與機器人新聞采寫編發相適應的新流程。要通過運用新的智能化核查手段和工具，并結合傳統媒體多年堅持的內容"三審"等好做法，探索建立有效的"人機結合"的內容核查機制。要配齊配足配強日常審核力量，由擁有較高媒介素養的人去給機器人把關。

　　應用中的保障。寫稿機器人作為一套自動化的新聞生產系統，專業的技術與設備需要專業的技術人員進行維護與監測。要培養或引進專業的技術人員，來承擔對寫稿機器人的日常運維和錯誤修正工作。

　　（四）寫稿機器人的使用者需要保持專業情懷。隨著機器人新聞寫作能力的提升，傳統媒體的記者、編輯需要重新思考和整理自己在人工智能時代的定位和價值。有專家預言，未來的新聞業將是媒體人與技術人員協同寫稿機器人一起合作高效開展新聞生產。

　　對于使用者來說，要提升算法素養。要避免新聞生產過程中的"唯技術論"。要對算法的設計和運行原理有一定理解和認識能力，對數據收集和結果輸出有一定的辨別和解釋能力；要科學認識機器人寫作和算法新聞的局限性，對算法本身及其得出的結論保持批判態度。

　　對于使用者來說，要充分揚長避短。寫稿機器人與人類記者應該是互補互存關系。人類記者要堅守新聞專業和傳播規律，堅持對事實、信息、真相的不懈追求，對公開、透明、服務的牢牢把握，糾正機器的偏見、失誤，增加機器的情感、溫度，發揮自己作為"人"的優勢，以寫稿機器人的智慧拓展自己的能力，從而更高效地完成優質作品。

　　對于使用者來說，要當好"把關人"。核實是新聞的中心工作。人類記者要裁判機器人新聞寫作中的價值，糾正機器人新聞寫作中的偏見，修改機器人新聞寫作中的錯誤甚至隱藏在數據背后的人為造假。根據社會實際，研判稿件發布的時度效，衡量輕重緩急，匹配時段位置，通過各種措施更有效地把符合社會主流價值觀的內容推送給受眾。

　　（五）寫稿機器人的監管者需要筑牢安全底線。要明確寫稿機器人的監管部門，在充分考慮新聞業和新聞算法特殊性的基礎上，加快制定有效的監管措施，理清人工智能法律主體以及相關權利、義務和責任等關系，推進監管法治化、制度化、規范化。

　　建立準入機制。針對設計、生產寫稿機器人的主體越來越多，獲取寫稿機器人越來越容易的實際，必須盡快明確寫稿機器人的資質要求，建立科學的準入標準與評價體系，嚴格依照標準開展監管，管住源頭。同時，盡快制定并落實寫稿機器人生產、銷售、使用的法律法規，提升安全評估和管控能力。

　　建立追責機制。受眾有權利知道自己閱讀觀看的新聞是由人類記者還是機器人所創作。如中國財富網對"財富小精靈"寫的稿件，發布時在文尾注明是寫稿機器人快速生成的，并提醒"數據未經審核，轉載或引用請謹慎"。但更多媒體對機器人寫作的內容卻打著匿名的旗號。當然，即使注明是寫稿機器人的新聞作品，如出現問題，發布的媒體依然不能免責。同時，應切實加強對數據濫用、侵犯隱私、違背倫理等行為的懲戒力度。

　　建立退出機制。除了在日常不斷糾偏設計、加強內容安全管理， 當發現寫稿機器人存在缺陷或潛在風險時，應主動及時修復、優化，視情況決定是否中止算法系統及相關服務，并由相關責任方對造成的損失承擔責任。

　　【注釋】

　　[1]陳偉光:《關于人工智能治理問題的若干思考》，《人民論壇·學術前沿》，2017年10月（下）。