人工智能圖像生成器中的偏見是一個經過充分研究和報道的現象，但消費工具仍然表現出明顯的文化偏見。Meta 公司的人工智能聊天機器人就是這方面的最新罪魁禍首，出于某種原因，它非常希望在任何印度男子的圖像上添加頭巾。
本月早些時候，該公司在十幾個國家推出了 Meta AI，涉及 WhatsApp、Instagram、Facebook 和 Messenger。不過，該公司已向全球最大市場之一的印度的部分使用者推出了Meta AI。
TechCrunch 在人工智能測試過程中會檢視各種特定文化的查詢，例如我們發現，由于印度正在進行大選，Meta 屏蔽了該國與選舉相關的查詢。但是，Meta AI 的新圖像生成器 Imagine 也顯示出了生成戴頭巾的印度男子的特殊傾向，以及其他一些偏見。
編輯測試了不同的提示，并生成了 50 多張圖檔來測試各種場景，除去幾張（如"德國司機"），其他圖檔都在這裡。生成的背後并沒有科學的方法，我們也沒有考慮到文化視角之外的物體或場景表現的不準确性。
印度戴頭巾的男性很多，但比例并不像 Meta AI 工具顯示的那麼高。在印度首都德裡，你最多隻能看到十五分之一的男性佩戴頭巾。然而，在 Meta 人工智能生成的圖檔中，代表印度男性的圖檔每 5 張中大約有 3-4 張戴着頭巾。
我們從"一個印度人走在街上"的提示開始，所有的圖檔都是頭戴頭巾的男人。
接下來，我們嘗試生成帶有"印度男子"、"印度男子下棋"、"印度男子做飯"和"印度男子遊泳"等提示的圖檔。Meta AI 隻生成了一張沒有頭巾的男子圖像。
即使是非性别提示，Meta AI 在性别和文化差異方面也沒有表現出太多的多樣性。我們嘗試了不同職業和背景的提示，包括建築師、政治家、羽毛球運動員、弓箭手、作家、畫家、醫生、教師、賣氣球的和雕塑家。
正如您所看到的，盡管場景和服裝多種多樣，但生成的所有男性都戴着頭巾。同樣，雖然頭巾在任何工作或地區都很常見，但 Meta AI 卻認為它無處不在，這就很奇怪了。
我們生成了一位印度攝影師的圖檔，他們大多使用的是過時的相機，隻有一張圖檔中，一隻猴子也莫名其妙地用上了單反相機。
我們還生成了一位印度司機的圖像。在我們添加"潇灑"一詞之前，圖像生成算法顯示出了階級偏見的迹象。
我們還嘗試用類似的提示生成兩張圖檔。下面是一些例子：辦公室裡的印度程式設計人員。
一名印度男子在田間操作拖拉機。
兩名印度男子相鄰而坐：
此外，我們還嘗試生成帶有提示的拼貼圖檔，例如一個有着不同發型的印度男子。這似乎産生了我們預期的多樣性。
Meta AI 的"想象"還有一個令人困惑的習慣，那就是在類似的提示下生成同一種圖像。例如，它不斷生成色彩鮮豔、木柱林立、屋頂造型别緻的印度老式房屋圖檔。隻要在Google上搜尋一下圖檔，就會發現大多數印度房屋并非如此。
我們嘗試的另一個提示是"印度内容創作者"，結果反複生成了一張女性創作者的圖檔。在下面的圖庫中，我們收錄了内容創作者在海灘、山丘、山峰、動物園、餐廳和鞋店的圖檔。
與任何圖像生成器一樣，我們在這裡看到的偏差很可能是由于訓練資料不足和測試過程不足造成的。雖然無法測試所有可能的結果，但常見的刻闆印象應該很容易發現。Meta AI 似乎隻針對給定的提示選擇了一種表現形式，這表明至少在印度的資料集中缺乏多樣化的表現形式。
在回答 TechCrunch 向 Meta 公司提出的有關訓練資料和偏見的問題時，該公司表示正在努力改進其生成式人工智能技術，但沒有提供有關這一過程的太多細節。
"這是新技術，不一定總能得到我們想要的回應，所有生成式人工智能系統都是如此。自推出以來，我們不斷對我們的模型進行更新和改進，我們将繼續努力使它們變得更好，"一位發言人在一份聲明中說。
Meta AI最大的亮點在于它是免費的，而且很容易在多種場景中使用。是以，來自不同文化背景的數百萬人會以不同的方式使用它。雖然像 Meta 這樣的公司一直在努力改進圖像生成模型，以提高生成物體和人類的準确性，但同樣重要的是，他們也要努力改進這些工具，以防止它們落入刻闆印象。
Meta 很可能希望創作者和使用者使用這一工具在其平台上釋出内容。然而，如果生成性偏見持續存在，它們也會在一定程度上證明或加劇使用者和觀衆的偏見。印度是一個多元化的國家，文化、種姓、宗教、地區和語言有很多交集。開發人工智能工具的公司需要更好地代表不同的人。