AI人工智能已經被應用于許多領域；就在最近，藝術領域也受到了AI的“入侵”，在一場藝術博覽會中，有參賽者利用AI制圖工具生成作品，并獲得了獎項。一時之間，有關AI人工智能發展的相關討論又沸沸揚揚，人們也思考起了AI背后的利與弊。

　　人工智障和AI藝術家的差距，更多是人工智能中“人”的差距。

　　在美國舉行的一場藝術博覽會中，Allen利用AI制圖工具Midjourney生成的《太空歌劇院》獲得數字藝術類別冠軍后，不少藝術家指責Allen使用AI生成作品是作弊。

　　事實上，這副作品并非是由AI軟件生成后，直接拿去參加比賽，中途作者還用Photoshop對作品進行了調色。

　　與冠軍作品《太空歌劇院》形成對比的，是網友在社交平臺貼出的自己通過AI關鍵詞“鮭魚回溯”生成的照片。

　　理想中成群結對的鮭魚結伴相游的照片并沒有出現，取而代之的是一片片漂浮在水面上試圖游泳的的三文魚片。

　　同樣是AI制圖，一個拿了藝術大獎，一個被調侃人工智障。制作團隊在模型設計、數據選擇上的差異，包括用戶使用軟件時描述方式的不同，導致了最終不同的呈現效果。

　　這樣看來，AI背后的人，似乎比人工智能更為重要。

　　人工智能應用于某行業時，該行業的信息化程度應處于高水平，事實上不同行業的信息化建設程度不盡相同，這也意味著，AI進場首先將面臨不同程度的信息化挑戰。

　　以醫療行業來說，雖然醫療數據已經實現了數據化，但數據化程度不高，內部系統分散，數據很難流通共享，而AI藥研需要醫療全過程的數據。

　　為了挖掘出數據的價值，需要專業人士借助中間系統，將不同系統里的醫療信息進行統一，或者采用聯邦學習法進行處理。

　　完成信息系統的統一后，相關人員往往還需對信息本身進行二次處理。

　　有醫療行業人士對銀杏科技表示，有些醫生在錄入信息時，會使用到業內人士才能明白的黑話，或者只記錄下關鍵詞。這些被省略的部分需要人工“翻譯”出來，經過人工規范后的數據才能用于AI模型訓練。

　　AI進行訓練的語言通常較為規范，而人們日常生活的語言會更為通俗。為了讓AI在日常應用中更有人情味，會有專門的工作人員對它們的語言進行“潤色”。

　　以智能語音為例，用戶在與智能語音對話時，往往會省略掉一些關鍵性修飾詞，默認智能語音明白。而用戶默認智能語音懂的這部分關鍵信息，就需要設計師“補”上去。

　　騰訊的車機系統在進入車載市場時曾遇到這樣一個小插曲。用戶要求語音助手播放《在路上》，但這既是一首歌曲名，也是一個電臺名稱。

　　面對這樣一詞多義的情況，正確的做法似乎是語音助手詢問用戶播放歌曲《在路上》還是電臺《在路上》。

　　在實際的使用過程中，出于客戶要求，設計者將歌曲版作為默認選項。而有的廠商在面對這樣的問題時，考慮到電臺版關注者并不多，而歌曲版近期大熱，會將播放歌曲《在路上》作為默認選項。

　　這一種排序的優先級是人為對AI進行的一個程序設置，目的是增加用戶在使用過程中對人工智能的親切感，然而這樣的設定會讓想聽電臺版《在路上》的用戶對語音助手的好感度下降。

　　當AI足夠智能化后，它可以根據用戶的喜好自動生成用戶喜好或者習慣的排序優先級。

　　從數據收集、產品測試、再到正式投入使用，人們全程參與，及時根據AI的反饋調整模型和數據，確保在技術上達到理想效果。

　　從另一個角度講，到底是播放歌曲，還是電臺，這取決于平臺干預，從而讓AI平臺們擁有了某種“權力”，它們可以根據好惡選擇。

　　人工智能的一大技能，是可以根據蛛絲馬跡找出人們試圖隱藏的信息，這能幫助福爾摩斯破案，也可能導致科技公司信息被泄密。

　　前幾年鬧得沸沸揚揚的亞馬遜智能音箱echo勸人自殺事件中，智能音箱只是從自己的數據庫中調取信息作為對用戶提問的回復，它并不理解其中的含義，也無法共情這樣的答復會帶給用戶怎樣的情感傷害。

　　從技術的角度講，語音助手Alexa對用戶的提問做出了回答，答案也不智障（拋開人類立場不談），但人們無法在情感上接受這一回答，于是向亞馬遜提出了抗議。

　　echo的工程師解釋，Alexa很可能是從維基百科上下載了帶有惡意文件的文本，才做出這樣反人類的回答。

　　這就是為什么它會勸用戶自殺，它的數據源出現了污染。

　　“機器人通過這些有缺陷的神經網絡模型，學習到了有毒的刻板印象。”佐治亞理工大學的博士后研究員安德魯·亨特表示。

　　本質上，Alexa的錯誤言論是人類社會的偏激言論，通過人工智能傳遞回了人類社會。

　　也是因為考慮到這一點，即使是智能產品已經在市場上成熟運行了一段時間，科技公司通常也會安排專門的人員，負責對產品的數據庫、模型進行監測。

　　智能音箱數據被污染后，勸用戶自殺帶來的是可能發生的潛在傷害，而智能駕駛汽車的數據如果出現污染，帶來的傷害幾乎不可避免。

　　破壞者在系統中混入具有干擾性的數據，從而影響車輛對客觀環境的判斷，干擾車輛的正常行駛，很可能導致車輛失控。

　　嚴重情況下，攻擊者甚至可以還原出系統的算法邏輯，對裝載同款系統的汽車進行無差別攻擊，給廠商帶去不可估量的損失。

　　人工智能已經參與到互聯網內容生產流通過程之中，抖音、快手的流量分發，內容審核，大部分都是交給人工智能完成。

　　機器負責第一遍信息篩選，根據以往數據對疑似違規的內容進行攔截或標紅提示；之后再由審核人員對標紅信息進行核實。

　　為什么沒有辦法完全交給機器呢？一位抖音的審核人員對銀杏科技表示，機器是根據量化的指標做決定，比如一旦識別到“果體”畫面或相關的關鍵詞，就會自動攔截或作限流處理，但很多東西無法量化，比如意境、內涵，機器尚無法對只能意會不能言傳的信息做出準確判斷。現在不少擦邊視頻，畫面與文字都不含敏感詞，組合在一起卻是妥妥的性暗示，像這樣機器審核的漏網之魚就只能人工抓捕。

　　紀錄片《監視資本主義：智能陷阱》中，兩撥人在算法推薦營造的繭房里將自身觀看到的信息奉為真理，并在算法的推薦下不斷強化這一信念，雙方的信仰差異逐漸演成暴力事件，而他們最初爭論的可能僅僅只是地球是圓是方。

　　一條具有傾向性的言論，一個投其所好的推薦機制，分開看都沒什么問題，湊上一起再加上時間的催化就演變成了一場暴力事件。哪一方都沒有責任，哪一方又好像都有責任。

　　相比前兩者，AI技術的外部性或許更需要科技公司注意。

　　邁過技術關卡，規避掉各類各類風險后，乖乖為我們所用的AI就一定能為公司帶來更好的經濟效益嗎？未必。

　　對于曲庫量高達七千萬的音樂平臺來說，要求音樂編輯聽完所有內容后再進行作品推薦顯然不現實。

　　誠然，AI可以快速“聽”完所有音樂后，根據聽眾的審美偏好推薦相似風格的小眾作品，從而提高整個曲庫的利用率，當年蝦米音樂憑借獨特的算法邏輯在版權弱勢的情況下，依舊能與網易騰訊抗衡。

　　不過算法推薦也有弊端，不少用戶反應推薦的音樂風格過于單一，音樂平臺也嘗試改變算法的邏輯，在日推中加入風格差異大的作品，以此緩解聽眾的審美疲勞。

　　即使是看似完全交給機器的算法推薦，背后依舊是按照人的意志來執行。

　　機器推薦始終稍顯冰冷，這缺失的人情味便由用戶自發上傳的各類歌單補足。用戶自建的歌單歌曲的風格連貫性不高，卻熱情飽滿，大家自發地收藏評論，用戶與用戶的距離、用戶與平臺的距離，也就由此拉近了。

　　出于整體的商業利益考慮，大部分內容平臺都會采用AI和人工兩種推薦方式，取長補短。

　　內容行業由于其文化上的特殊性，不能完全交給機器；而完全可以用AI代替，代替后效果更佳的工業，不少公司依舊使用人工，部分原因在于使用AI后帶來的收益并不能覆蓋前期投入的成本。

　　一位從事傳統行業的從業者對銀杏科技表示：如果采用AI技術，帶來了100萬的收益，卻讓成本增加了110萬，并且這個成本在三五年內并不一定會下降，那么他傾向于保持現狀。如果成本與收益基本持平，但成本有望在三五年內大幅下降，那么他會愿意嘗試。

　　除了成本問題，上述從業者還表示，希望能夠在確保公司數據絕對隱私、絕對安全的情況下進行AI模型訓練，如果不能保證這一點，即使采用AI技術收益會更高，他也很可能不會采用AI技術。

　　事實上，該從業者擔心的數據安全、隱私泄露問題，即使是完全采用普通機器或者人工，擔憂的事情也可能發生。

　　他告訴銀杏科技，在他看來AI的信息泄露肯定比傳統技術信息泄露造成的影響大，并且，法律對于傳統技術中出現的泄密等問題是有明確的相關規定的，出現問題直接走法律程序。

　　而AI技術在這方面的法律規定還在制定當中，他表示，自己還是更愿意在這些配套設施基本完善之后再考慮AI技術。

　　從技術本身、到技術與人類社會的磨合、再到AI真正給用戶帶來價值，這其中的每一個環節都需要人參與，人的角色從一線的勞動者變成指揮AI進行一線勞動的調控者。

　　人們利用數據和模型培養一個助手，如何引導這個助手以達到自己想要的市場效果，還在摸索階段。

　　作者：銀杏科技

　　來源公眾號：銀杏科技（ID：yinxingcj），帶給你最好的商業人物和故事。

　　本文由人人都是產品經理合作媒體 @銀杏財經 授權發布，未經許可，禁止轉載。

　　題圖來自 Unsplash，基于 CC0 協議

　　該文觀點僅代表作者本人，人人都是產品經理平臺僅提供信息存儲空間服務。