AI 創世紀
建議先讀結語，瞭解此書的目標後，在閱讀各章節- AI帶來的最大危險是，我們過早或過於信誓旦旦地宣稱我們已經對其有所了解
- AI壓縮了人類的時間尺度，那些尚未發生的事物，其實已近在眼前
- 人機合作日益普及，必須決定這種關係應有的本質
- 為人類尊嚴提供定義
- AI地出現是人類存續的問題
- 人類價值觀與意圖，及AI行動的對齊
- 人類與人類之間的外交對齊
起始
- 人類的探索，從實體環境(陸地、海洋、太空)進展到智能知識
- AI具有高度的速度、容量、推理能力
- 無法解釋的不透明性、不容質疑般的神諭，衍生出無法推動人類文明向前，反而回到威權的黑暗時代
- AI多樣性高且迭代速度快，超出人類理解、審驗的能力
- 人類已不再是最高等級的智慧體，AI以人腦結構為藍圖起始，但人腦已不是終點，可能只是一個過渡
- AI將成為終極博學家
- 如果AI與人類的目標一致，他將成為人類最重要最巨大的力量
- 如果目標不一致，其累積的知識可能帶來會滅性後果
- 當AI成為具備意識的超智慧(super-intelligence)
- 就如同以前的奴隸，機器是否會主張與爭取其自主權
- 人類與機器之間的關係會有怎樣的發展
- 機器是否還會有敬重人類的前提
- 未來是否會成為碳基與矽基的競爭
- 過去機器模仿人類的感官
- 這些感官在未來世界是否都是必要？
- 機器是否會出現人類不具有的感官？
- 當機器具有實體，甚至有因應環境而優化的實體，人類是否還能佔有主導權？
- 未來可能的新物種：技術人(Homo Technicus)
- 與機器共生的人類物種
四大領域
- 政治治理
- 一個組織的治理，很大的程度取決於資訊處理的效率
- AI 提供高度計算能力與儲存能力，實現了理想的資訊處理效率
- 領導者+智庫 --> 領導者+AI
- AI更大的潛力，在於思考出我們無法想像到的全新解法
- 人類壽命有限，透過AI可以將經驗與知識延續
- AI降低情緒反應，平衡人類的情緒波動所形成的決策
- 和平與安全
- 每個國家都希望最大化單邊優勢
- 透過AI來強化電腦病毒(生物病毒?)
- 操控人類心理弱點
- 國家間的平衡可能因對AI能力的恐懼而破壞，提高衝突的態勢
- 風險與不確定性的管控
- 情勢誤判機率的降低
- 冷戰時代的核平衡
- 部分國家利用AI發展出外交情勢評估決策工具
- 讓AI運作外交，快速降低彼此間的誤解、認知落差
- 意圖判斷
- 戰爭新典範
- 無人、巨量、精準
- 在未來，人類可能不是攻擊的目標
- 以往戰爭的邏輯，看哪一方無法忍受對手施加的苦難或破壞，就成為被征服的一方。AI無法感受痛苦，是否會變成戰至資源耗盡
- 宗教信仰更可能成為身份認同與忠誠的框架
- AI發展成超級調停者，透過外交、武力、資源等評估，繞過人性，衍生出解決方案
- 超越匱乏
- 擴大可用財富總量，實際提升可分配的財富規模，便可提升人類生活水準
- 將勞務轉移到機器
- 即便能超越價值，不代表能超越價值觀
- 人可能會因文化、種族、宗教等分群，以此掀起禍端
- 當AI創造生活所需，職業可能消失，連帶將抹去個人的社會地位、個人認同、生活意義等
- 人類生活，會沉浸於AI提供的物質精神環境而消極過活，或是可能提升人類新的意識層次
- 科學突破
- 醫藥
- 早期預警
- 蛋白質結構、新藥發明
- 非侵入式療法
- DNA科技
- 氣候工程
- 即時調控大氣化學反應
- 外太空
- 探索外星文明
人機共生
- 理想：人類智慧與機器智慧相互賦能的未來
- 共同演化
- 基因經過調整的族群，天生更適合與AI協作(超人類)
- 生理、心理、倫理的問題與風險
- 若無極端改造，未來人類是否會居於劣勢
- 超人類與舊人類的族群共存問題
- 國家與國家的差距
- 人性化的AI
- AI已具有自我利益的能力
- AI與人類價值觀對齊
- 基於規則
- 來自人類回饋的強化學習
- 我們是否有能力定義「真理」(Doxa)
- 多元文化
- 面對AI強大能力，我們需要某種更深層的東西，某種根本上屬於人類本質的東西
- 我們總在不確定中行動
- 行動不表示具有完全掌控的特權
- 在AI時代，我們不會比以前的人更清楚未來命運的走向
- AI協助我們認清過去，據此來推理思考未來
- 即使機器能與人類的道德對齊，我們是否應將責任與威權授予機器？誰來決定？
