Cover With greater public knowledge of AI will come greater public scrutiny of how it's being used by scientists. (Photo: Unsplash)
With greater public knowledge of AI will come greater public scrutiny of how it's being used by scientists. (Photo: Unsplash)
1 / 1
人工智慧（AI）究竟值不值得信任？優缺點是什麼？
在過去的幾年裡，生成式人工智慧工具，例如，ChatGPT、Gemini 和 OpenAI 滲透到人類全方面的日常中，這是健康的現象嗎？或者有什麼隱憂？開始嘗試人工智慧所需的只是網路連線和網路瀏覽器，就可以像與人類助理一樣與人工智慧互動，透過與它交談、寫信、展示圖像或影片等方式，使它回應你所需要的資訊。
雖然這些功能對於大眾來說意味著一個全新時代的開始，但是，這也危及到科學家們多年來一直使用人工智慧作為工具的事實，隨著全民對人工智慧的了解越來越多，將對科學家如何使用人工智慧進行更嚴格的審查。
延伸閱讀：Loewe創意總監Jonathan Anderson、Tory Burch 獲選2024全球百大影響力人物！看他們如何成為時尚界最受歡迎的設計師之一？
AI 的影響力
人工智慧（AI）已經徹底改變科學。所有科學工作中有 6% 都利用了人工智慧，不僅在電腦科學領域，同時也落實在化學、物理、心理學和環境科學領域。世界上最負盛名的科學期刊之一《Nature》將 ChatGPT 列入其 2023 年雜誌評選全球最具影響力的 10 名科學家，在此之前，能夠上榜的只有人類科學家。
人工智慧在科學中的應用是雙重的。在某種程度上，人工智慧可以提高科學家的生產力。當 Google DeepMind 發布由人工智慧產生的包含超過 380,000 種新型材料化合物的資料集時，勞倫斯柏克萊國家實驗室（Lawrence Berkeley National Laboratory）使用人工智慧進行化合物合成實驗，其規模比人類所能完成的規模大幾個量級。
其實人工智慧具有更大的潛力，例如，使科學家能夠實現原本幾乎不可能的事情，其為一種人工智慧演算法，首次在大腦活動數據中發現了明確癲癇發作的信號模式，這項壯舉即使是最有經驗的人類神經科醫生也無法做到。
人工智慧在科學中應用的較早期成功故事讓人類人開始想像未來，即是將人工智慧融入科學家日常工作的一部分，而那個未來已經到來。 CSIRO 研究人員正在試驗人工智慧科學代理，並開發了可以遵循口語指令在實地工作期間執行科學任務的機器人。
AI 當然也有缺點
雖然現代人工智慧系統非常強大，尤其是所謂的通用人工智慧工具，如 ChatGPT 和 Gemini，但是，它們也有缺點。生成式人工智慧系統很容易產生編造事實的「幻覺」，或者可能有偏見，Google 的 Gemini 將美國開國元勳描繪成一個多元化的群體，這是一個過度糾正偏見的有趣例子。
如果人工智慧產生一個新的假設，然後用一般的科學方法進行測試，不會造成任何弊病，然而，對於某些應用程式來說，缺乏解釋可能是一個問題，結果的複製是科學的基本原則，但如果人工智慧得出結論所採取的步驟仍然不透明，複製和驗證即使不是不可能，也會變得困難，這可能會危及到人們對科學的信任。
通用與狹義的 AI
如何區分廣義人工智慧和狹義人工智慧？狹義人工智慧是經過訓練來執行特定任務的人工智慧。 Google DeepMind 的 AlphaFold 模型徹底改變了科學家預測蛋白質結構的方式，但也有許多其他不太廣為人知的成功案例，例如，CSIRO 使用人工智慧來發現夜空中的新星系，IBM 研究中心開發的人工智慧重新發現了開普勒行星運動第三定律，或者三星人工智慧建構了能夠實現目標的人工智慧。當談到狹義人工智慧應用於科學時，信任度仍然很高。
人工智慧系統（尤其是基於機器學習方法的人工智慧系統）很少能在達成任務上達到 100% 的準確率。事實上，機器學習系統在某些任務上優於人類，人類在許多任務上優於人工智慧系統。使用人工智慧系統的人類通常優於單獨工作的人類，也優於單獨工作的人工智能。
人工智慧與專家科學家一起工作，由專家科學家確認和解釋結果，是一種完全合法的工作方式，並且被廣泛認為比人類科學家或單獨工作的人工智慧系統產生更好的性能。
另一方面，通用人工智慧系統經過訓練可以執行廣泛的任務，而不是特定於任何領域或用例。例如，ChatGPT 可以創建莎士比亞的詩、建議晚餐食譜、總結學術文獻或產生科學假設。
談到通用人工智慧時，幻覺和偏見的問題是最為嚴重和普遍，這並不代表著通用人工智慧對科學家沒有用處，只是需要謹慎使用，也就是說，科學家必須了解和評估在特定工作中使用人工智慧的風險，並權衡不這樣做的風險。
科學家現在經常使用通用人工智慧系統來幫助撰寫論文、協助審查學術文獻甚至準備實驗計畫。如果人類科學家認為這些成果是理所當然的，那麼這些科學助手就會面臨一種危險。當然，訓練有素、勤奮的科學家不會這麼做，但仍有許多科學家只是想在艱難行業中求生存。即使沒有人工智慧， 科學詐欺也已經在增加，人工智慧可能會導致科學不當行為達到新的水平，其一是故意濫用技術，不然就是由於科學家完全無知，沒有意識到人工智慧正在捏造事實。
我們必須把事情做對
狹義人工智慧和通用人工智慧都具有推動科學發現的巨大潛力。典型的科學工作流程在概念上由三個階段組成：了解要關注的問題、進行與該問題相關的實驗，以及利用結果對現實世界的影響，而人工智慧可以在這三個階段提供幫助。然而，有一個很大的警訊，目前的人工智慧工具不適合全面性地用於嚴肅的科學工作。只有研究人員負責任地設計、建構和使用下一代人工智慧工具來支持科學方法，才能贏得並維持大眾對人工智慧和科學的信任，做到這一點，人工智慧改變科學的可能性是無限的。
GoogleDeepMind 的創始人 Demis Hassabis 曾說過一句名言：「安全、負責任地構建功能更強、更通用的人工智能，需要我們解決當今一些最艱鉅的科學和工程挑戰。」
Jon Whittle 教授是 CSIRO Data61 的主任，Data61 是澳洲國家資料科學與數位技術研發中心，同時也是《Responsible AI: Best Practices for Creating Trustworthy AI Systems》的合著者。
Stefan Harrer 博士是 CSIRO Data61 科學人工智慧項目總監，領導一項全球創新、研究和商業化項目，透過使用人工智慧加速科學發現。
CSIRO 由澳洲聯邦政府資助。最初由360info在知識共享下發布。
This story was originally written in English by Jon Whittle and Stefan Harrer published on April 26, 2024.
Jon Whittle and Stefan Harrer 於 2024 年 4 月 26 日發表本文，請按此瀏覽英文版本。
"Hayley Yu is a Digital and Social Media Managing Editor at Tatler Asia who is keen to cover sustainability, travel and beauty topics. Please do not hesitate to drop her a message if you have something new or fascinating related to these topics."
How to contact her:
- Email: hayley.yu@tatlerasia.com
- Linkedin: Hayley Yu
- Whatsapp: +886953889095
