近年來，隨著人工智能技術的快速發(fā)展，公眾的擔憂有所上升。最響亮的聲音之一來自于已故的斯蒂芬·霍金教授，他認為人工智能可能會毀滅人類。那么，該如何看待人工智能的威脅？應該采取行動控制人工智能嗎？是否要像對待核能和其他潛在危險的技術一樣，制定法律甚至是國際條約來控制人工智能的發(fā)展？

回答這些問題之前，首先需要明確的是，人工智能的成就目前仍很有限?，F(xiàn)在的人工智能系統(tǒng)能夠執(zhí)行20年前計算機不可能完成的任務。比如，現(xiàn)在全世界每天都有數以百萬計的人在使用文本自動翻譯工具；無人駕駛汽車即將問世，未來10年將出現(xiàn)在馬路上；計算機現(xiàn)在比人更善于識別人臉等。盡管這些成就令人印象深刻，但人們還是不知道應該如何使機器具有意識和自我感知。因此，在可預見的未來，人工智能接管世界仍將是科幻小說的情節(jié)。當然這并不意味著我們可以高枕無憂。

人工智能系統(tǒng)越來越多地被用于做出決策，這對人們產生了直接影響。例如，銀行發(fā)現(xiàn)人工智能系統(tǒng)善于預測潛在客戶是否會成為優(yōu)質客戶——是否會按時還債等。他們可以通過使用大量的客戶記錄，來“培訓”一個人工智能系統(tǒng)。一段時間后，這一系統(tǒng)將能夠分析潛在客戶的詳細信息，從而預測其是否優(yōu)質。對于銀行來說，可以迅速而低廉地決定是否需要一個特定的客戶。但對于客戶自身而言，應該會感到擔憂：如果銀行的人工智能系統(tǒng)在某種程度上存在偏見怎么辦？

這就是算法偏見。當前人工智能浪潮的一個特點是，系統(tǒng)無法像人那樣，解釋或合理化其所做的決定。所以，銀行可能會使用人工智能系統(tǒng)來決定不與你做生意，但卻不能給你解釋原因。這公平嗎？銀行這樣運作合乎道德嗎？誰來對這個決定負責？