9月10日，中國科學院釋出誠信提醒，聚焦人工智能技術在科研活動全流程應用中可能存在的問題與挑戰。在選題調研、資料收集、圖示制作、成果撰寫、同行評議等等多個方面，規範人工智能的使用。
近日，由日本Sakana AI公司和加拿大、英國科學家攜手研發的“AI科學家”登場，備受科學界關注！
來源：新華網截圖
它可以獨立完成從閱讀文獻、提出假設到實驗、提出解決方案并撰寫論文的全過程，并能一口氣生成10篇論文！
有人驚呼科研自動化時代即将到來；也有人調侃這隻是進階版的“AI論文生成器”，它與科學家之間還存在很大差距！
盡管這位“AI科學家”并非盡善盡美，但潛力巨大。這無疑不在證明着人工智能（AI）技術在科學研究領域中的應用和影響日益顯著。
它不僅是個“神奇”的工具，也是一把雙刃的利劍。
AI成為科研的助力
人工智能不僅有着強大的資料處理能力，還在模型優化、執行重複性任務、發現隐藏模式等方面有着得天獨厚的優勢，甚至能預測科學實驗的結果。
事實上，AI已經在科學領域起到了實際且有效的作用。
面對龐大的文獻資源，檢索和篩選往往要耗費科研人員大量的時間。然而，借助AI便能快速查詢、閱讀甚至分析海量文獻，這大大提高了文獻閱讀的效率。
總部位于英國的DeepMind公司開發出的“AlphaFold”，已預測出約100萬個物種的超過2億種蛋白質結構，涵蓋科學界已編錄的幾乎每一種蛋白質！
來源：央廣網新聞截圖
可以說，AI在一定程度上能幫助科研工作者完成大量機械、艱苦的重複性工作，讓他們節省出更多時間用在思考更複雜、高層次的科學問題上。
不僅如此，AI還能跨越多個不同的學科、加速不同學科間的交叉融合。随着深度化的學習，強大的算法甚至能改變傳統研究路徑，開辟一條智能化、自動化的研究路徑。
但在為科研工作提供更多便利的同時，AI也引發了許多問題。
AI帶來的學術危機
随着AI生成論文成本的降低，有人利用AI技術編造試驗資料、制造學術垃圾，生産出大量的虛假研究論文。
今年4月份，有記者卧底論文寫手群，寫手明确表明：由于原作者未提供資料，就讓AI編一些資料，再讓AI根據編好的資料分析。
來源：新京報
此前，哈佛肯尼迪學院的“錯誤資訊審查”研究發現，人工智能生成的虛假研究論文正在滲透到谷歌學術等學術搜尋引擎中。這些虛假的研究論文不僅會導緻資源浪費，還會破壞公衆對科學的信任。
這些低品質甚至無價值的論文可能會加劇“學術泡沫”的形成，導緻學術标準的降低，在一定程度上阻礙科學的進步。
而且，大多數情況下，由于AI缺乏對科學概念和背景的正确了解，會出現“一本正經胡說八道”的現象。
例如前段時間在學術界鬧得沸沸揚揚的AI小鼠圖檔，不僅與科學事實嚴重不符，還出現了大量英文拼寫錯誤，僅發表3天就被迅速撤稿。
（PS：大家一起來找茬，圖檔錯誤放在文末）
來源：參考資料[2]
對此，牛津大學人類未來研究所負責人尼克·博斯特羅姆認為，如果我們在沒有解決控制問題之前就引入超級智能，人工智能研究的未來發展就會對人類生存帶來重大威脅。
多方規範AI使用
随着科研領域對人工智能的廣泛應用，相關部門和科學領域對其的規範性越來越重視。
2023年7月13日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和資訊部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》。
2023年8月28日，《中華人民共和國學位法（草案）》明确強調利用人工智能代寫學位論文屬學術不端行為，
2023年12月，科技部監督司釋出《負責任研究行為規範指引（2023）》（以下簡稱《指引》），增加了“生成式人工智能”在研究行為中的限制條件。
今年8月，歐盟《人工智能法案》正式生效，該法案是全球首部全面監管人工智能的法規。
盡管如此，現階段法規的建立依舊趕不上人工智能的快速發展。這就需要科研人員自身有一定的道德規範，始終将學術責任、學術良心放在首位，才能不被人工智能這種颠覆性的技術帶偏。
科研不僅僅是獨立高效地完成一系列任務，更是一項複雜的創新事業。目前AI還處于探索前沿階段，科研創新依然需要人來引領方向，進行分析、思考與決策。
莊子曰：物物而不物于物。
AI作為人類的發明，沒有好壞之分，為我所用才是正解。
靈感和創新永遠是人類的專利，在人工智能面前依然保持旺盛的思考力，是每一個研究者都應保持的尊嚴。
（對照看看，你找出來了嗎？）
參考資料：
[1]徐東波. 人工智能驅動科學研究的邏輯、風險及其治理[J]. 中國科技論壇, 2024(5): 120-129.
[2]https://www.frontiersin.org/journals/cell-and-developmental-biology/articles/10.3389/fcell.2024.1386861/full
來源：學術橋綜合自知乎、央廣網、柳葉刀The Lancet、新京報、量子位、丁香園