歡迎您來到美新社! 請登錄 註冊

美新社

陳玲華廣告

首页 > 今日焦點 > 即時

避免 AI 失控 美團隊建議發展精神病理學

發佈時間:2018年07月10日 13:54 來源:中國日報 评论:0條 點擊:2130次

(綜合報導)隨著人工智慧(AI)技術持續提升,許多人都開始出現對於 AI 的焦慮,如果未來真的出現「行爲偏差」的 AI 該如何是好?對此,堪薩斯州立大學(KSU)研究人員提出一個有趣的理論:如果精神病理學在人類身上能取得成效,那麼稍微調整後運用在 AI 是否也可行呢?



雖然聽起來有些奇怪,但這並不是一個玩笑。堪薩斯大學團隊在論文指出,人類認知具有的適應機制提供了快速適應動態環境的獨特技能,但也造成人們容易罹患 PTSD、憂鬱症等相關精神疾病,而研究者也正希望在通用人工智慧(AGI)實現類似的認知機制,可想見未來 AGI 也可能出現類似的認知障礙。


舉例來說,AI 不顧一切追求獎勵最大化的「wireheading」行爲便與妄想和上癮行爲相似,而在基於強化學習(RL)的 AI 探索/開發軌跡中,如果設定了非常負面的懲罰和壓力,AI 則可能會出現類似憂鬱症和 PTSD 的行爲障礙。


目前關於 AI 安全的研究多半著重於安全意識設計和緩解技術(mitigation techniques),但 AGI 的複雜性,將會使得分析這些與生物智慧相當的問題變得更困難。考慮到診斷和治療的目的,團隊認爲要修復 AI 的行爲偏差,或許也可以從人類的精神病理學(Psychopathology)研究獲益。


團隊相信,透過運用類似的框架來思考 AI、替 AI 的「精神障礙」建立模型並進行驗證,未來我們將能診斷出 AI 不當行爲,同時找出系統性的治療方法來解決問題。


這篇論文只是一個起點,但它提出了一些相當有趣的看法:畢竟當能夠代替人力執行任務的 AI 代理人(AI agent)「生病」時,處理方式可不像是電腦重開機或重灌系統這麼簡單。


雖然坐在沙發上和 AI 談論佛洛伊德可能沒什麼用,但至少可以慶幸,一些在人類起作用的診斷與治療效果,或許也會對 AI 有用。


發表評論 已有0 條評論

  • *用户名:
  • *我的態度:
  • *驗證碼:
    驗證碼
上海灘餐廳林達堅方孝伟律师事务所林達堅地產廣告亞聯律師事物所山東總商會
卓蕾SolarMax美國奧淇國際金融新光岩櫥櫃林大衛保險加州水货山東同鄉會

Copyright@since2016 chinesenewsusa.com All Rights Reserved