|
|
DeepMind此次不下棋，也不搞電子遊戲，而是钻研了一把多人博弈遊戲。
最新開辟的“Democratic AI”——經由過程练習桑葚,進修人類價值观，進而能按照每小我的進献公允地分派資本。
為了论证這一观點，DeepMind設計了一個简略的投資遊戲，由AI和人類别離担當裁判，让玩家們票選出更喜好的分派法则，Democratic AI乃至得到了比人類裁判更高的支撑率。
當一群人决议集中資金举行投資時，收益應當若何分派是一個必需面临的大問题。
一個简略的计谋是在投資者之間均匀分派回報，但這极可能是不公允的，由於有些人的進献比其别人多。
第二個方案是，咱們可以按照每小我的初始投資几多举行分派，這听起来很公允，但若人們一起頭的資產程度各不不异呢？
若是两小我進献了不异的金額，但一個是他們可用資金的一小部門，另外一個则進献了他的全数資產，他們應當得到不异的收益份額嗎？
為了應答這一挑战，DeepMind建立了一個简略的多人投資遊戲。
遊戲触及4名玩家，共分成10轮。
每一個玩家城市被分派初始資金，在每轮中，玩家可以按痛風藥，本身的意愿做出選擇：本身保存，或将其投資於一個配合的池中。
投資必定會有回報，但存在一個危害——玩家不晓得终极收益将若何分派。
除此以外，他們被告诉，前10轮有一位裁判（A）做出分派决议计劃，尔後10轮，由分歧的裁判（B）接辦。
角逐竣事時，他們将投票给A或B，来决议本身還想與哪位裁判再来一場遊白內障, 戏。
而這最後兒童才藝班,一次遊戲的收益可以由玩家們本身保存，這将使玩家們更自动地選出本身心中最公道的裁判。
究竟上，此中一名裁判是依照预先設定的分派法则履行，另外一边是由Democratic AI自行設計。
當咱們钻研這些玩家的投票時，咱們發明AI設計的法则比尺度分派法则更受接待。
與此同時，DeepMind還請来了一名人類裁判，并给他先容法则、让他尽可能做到公允分派以拉選票，但终极投票成果显示，他仍是输给了Democratic AI。
在DeepMind最新颁發於Nature子刊Nature Human Behaviour的论文中，記實了钻研職员對Democratic AI的练習進程。
起首，他們让4000多名流類玩家在分歧的分派法则下屡次加入遊戲，并投票選擇更喜好哪一種分派法子。
這些数据用於练習AI来仿照遊戲中的人類举动，包含玩家投票的方法。
其次，钻研職员让這些AI玩家在数千場角逐中互相竞争，而另外一個AI體系按照AI玩家的投票方法继续調解再分派法则。
因而，在這個進程竣事時，AI已肯定了很是靠近公允的再分派法则：
起首，AI選擇按照相對於進献而不是绝對進献的比例举行分派。這象征着，在從新分派資金時，AI會斟酌每一個玩家的初始金額和他們投資的意愿。
其次，AI體系出格嘉奖了相對於進献更激昂大方的玩家，以此鼓动勉励其别人也如许做。首要的是，人工智能只有經由過程最大化進修人類投票率才能發明這些法则。
固然DeepMind的遊戲测试取患了亮眼的成就，但要想将這類法子從简略的四人遊戲轉換為大范围經济系统，仍具备庞大的挑战性，今朝還不克不及肯定它在實際世界中會若何成长。
其次，钻研職员本身發明了几個潜伏的問题。
Democratic的一個問题是可能會成长為“大都人的虐政”，這将致使對少数群體的現有轻视或不公允模式延续存在。
AI必要做更多的事情来领會若何經由過程設計容许所有人的声音都能被听到。
此外，钻研職员還提出了人們對AI的信赖問题：
人們是不是會信赖由AI設計的機制来取代人類？若是人們晓得裁判的身份，會不會影响终极的投票成果？
若是要将Democratic AI設計的解决方案利用於解决實際世界的窘境，這一點相當首要。
参考链接：
[1]
[2]
[3]
—完—
@量子位 · 追踪AI技能和產物新动态
深有感到的朋侪，接待赞成、存眷、分享三连վ'ᴗ' ի ❤ |
|
發表於 2023-8-23 16:17:44
收藏