編輯整理/智庫2861
然而要讓ai能夠對自己的行為負責，做起來可能沒有說得那麼容易。
最近，來自英國的三位研究者sandra wachter、brent mittelstadt和luciano floridi在《science robotics》發表了一篇**，**指出，對機械人進行監管是極為困難的，而隨著人工智慧的進一步普及，這也將成為一種越來越大的社會問題。
為什麼機械人和ai將會難與管控？具體原因有三個：
問題之一：機械人和ai的多元性
關於在ai監管方面我們正在面臨的問題，「隨機暗網購物者」的出現便是乙個例證。
最後，這個被命名為「隨機暗網購物者」的ai買到了***、匈牙利護照、冒牌迪賽牛仔褲、帶有隱蔽攝像頭的棒球帽、開了洞能夠存放現金的雪碧罐、香菸、耐克運動鞋以及一套指環王電子書……
因為非法購買行為，瑞士警察起初沒收了這個機械人以及它所購買的物品，但後來又把東西還了回去（除了毒品）——而那些對此事負有責任的藝術家則並沒有受到指控。
在這個案例中，儘管機械人有乙個特定的目的，但造成其非法行為的初衷卻是無害且偶然的，因此**沒有提出指控。
但不難想象，日後可能會有人帶著更為不光彩的想法，利用ai做同樣的事情。
這就是問題所在。「ai難以**和多元化的特點讓相關的法律編纂變得更為複雜，如果管得太寬，很可能會無形之中阻礙創新的步伐；而如果管得不夠，極為有限的保護又會失去意義。」研究者們寫道。
問題之二：透明度
利用神經網路來建立ai可以讓它更好、更快地學習，但這麼做意味著，你將不會明白ai為什麼做出這些事情。
如今，為了讓ai能夠完成類似影象分析這種複雜任務，利用神經網路是一種非常成功的戰略——然而，這種成功卻讓對ai行為的監管變得更為困難，因為這種「黑箱」正在越來越流行。
如果你不能看清「隨機暗網購物者」在做的究竟是什麼事情，那麼判定其是否有害就變得幾乎不可能了。
問題之三：結構
「不管包括在內的硬體、軟體和資料如何混合在一起，對於公平性、透明度、可解釋性和責任承擔方面的關切都是平等的，它們起源相同，也應該被一起解決。」研究者們說。
我們更傾向於將機械人和ai視為不同的實體，但隨著人臉識別這類軟體越來越多地被機械人警察所應用，二者之間的界限正變得不再清晰。如果人臉識別軟體帶有種族主義偏見，我們就能創造出種族主義機械人警察，這意味著，我們將不得不對應用ai的機械人進行監管。
而如果ai也能建造ai——如同谷歌在今年i/o大會上展示的一樣——事情將變得更為困難。
最後，要解決這一問題，需要極其精確的管控措施，以及能夠對黑箱系統進行解釋的方法，而這些我們目前都還未能做到。研究者們在報告中說：「民間關於機械人的法律決議也仍在努力確立更為嚴謹、準確的問責制度。」而隨著ai的進一步鋪開，問題將會變得更為嚴重。
（本文作者為知易行難，來自「量子位」）、
AI，一種與人類迥異的智慧型形態 智庫2861
編輯整理 智庫2861 近年來，人工智慧快速發展，它是否已成為超越人類的智慧型形式呢？該如何理解人工智慧呢？在日前舉辦的第四屆中國機械人峰會暨智慧型經濟人才峰會上，美國 連線 雜誌主編凱文 凱利接受了採訪。該雜誌是乙份科技類月刊雜誌，創刊於1993年，刊發科學技術在當今和未來人類生活中的應用類文章。...
三個ERP上線失敗的原因
1 erp公司對上線公司的專業流程及術語不熟悉，造成雙方溝通無法在同一平台上，這只要有一方稍缺耐心，就會行成乙個溝通平行線，從而永遠無法找到乙個交叉點。2 erp過於標準化，大部份erp公司比較少考慮上線公司的規模及組織架構，而是用一套標準的流程進行上線，結果原本在公司乙個步驟或乙個表單可以完成的事...
經觀智庫 看好下週三個交易日
今天滬指的走勢沒有選擇直接 反而選擇誘空 洗盤。我們 的較低 目標點位是在3075點，今天第一波 到3070之後開始了乙個多小時的 結束後 創出新低3063點，這也是在 點位附近 相差12個點 之後大幅強力拉公升，可見這個點位在當天的重要性。洗盤是建倉期出現頻率較高的正常的走勢，我們不認為這是又要開...