搜尋網站:

OpenAI執行長主動承認AI會脫序、須監管
分享這篇文章:

在科技界引起廣泛關注的OpenAI公司最近面臨了一場關於AI監管的辯論。OpenAI公司的執行長奧特曼(Sam Altman)在最近的參院聽證會上承認了人工智慧系統(Artificial Intelligence System,簡稱AI)的潛在風險,並提出了建立一個監管機構的建議,以確保AI的安全性。

奧特曼表示,政府干預是減輕日益強大的AI系統風險的關鍵。他建議成立一個美國或全球監管機構,負責頒發許可證給強大的AI系統,並有權取消許可以確保符合安全標準。

這一提議反映了OpenAI公司對AI技術的擔憂。奧特曼坦承,隨著AI科技的進步,人們對AI將如何改變我們的生活方式感到焦慮,而OpenAI也有同感。他並未具體提及AI可能帶來的具體問題,只是表示AI可能對世界造成重大傷害,如果出了問題,後果可能會很嚴重。

ChatGPT作為OpenAI公司的一個免費聊天機器人,自去年底發布以來一直受到廣泛關注。最初,教育界擔心ChatGPT可能被用來作弊,而現在人們擔憂的範圍已擴大到AI工具可能誤導人類、傳播謊言、侵犯智財權以及顛覆某些工作領域。

面對這些擔憂,歐洲立法者已經開始制定新的AI規範,美國機關也承諾打擊違反公民權利和消費者保護法的有害AI產品。在這一過程中,OpenAI公司的執行長奧特曼以及其他科技公司的執行長被邀請到白宮進行討論,以找到解決這些問題的方法。

參院司法委員會的一位主席,康乃狄克州民主黨參議員布魯曼索(Richard Blumenthal)在聽證會中表示,AI公司應該在發布產品前測試其系統並披露已知風險。他特別擔心未來AI系統可能對就業市場的穩定產生破壞性影響。對此,奧特曼基本上同意了這一觀點,但他對未來工作的樂觀態度更為強烈。

在這場聽證會上,還有IBM的隱私信任長蒙哥馬利(Christina Montgomery)和紐約大學名譽教授馬庫斯(Gary Marcus)受邀作證。馬庫斯和一群AI專家呼籲OpenAI等科技公司暫停研發更強大的AI模型,以便社會有更多時間來考慮相關風險。

來自密蘇里州的共和黨參議員霍利(Josh Hawley)表示,AI科技對選舉、就業和國家安全具有重大影響,這次聽證會是了解國會應該如何應對這些問題的關鍵第一步。

綜上所述,OpenAI公司的奧特曼執行長在參院聽證會上承認AI的潛在風險,並提出了建立監管機構的建議。這一提議引起了科技界的廣泛討論,並在政府和立法機構中引起了相應的關注。AI監管的議題已經成為當前科技愛好者關注的焦點之一,人們期待著對AI進行適當的監管和管理,以確保其安全和可靠性。

文章資訊

作者/

發布日期/

留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *