在社區中量化公共貢獻的治理悖論

進階Aug 07, 2024
本文討論了將DAO和社區治理中的公共貢獻量化的悖論,並強調目前的量化機制往往會導致權力集中和參與度降低。它還分析了引入AI治理可能帶來的風險。
在社區中量化公共貢獻的治理悖論

本文探討的DAO/社群概念將被稱為“社群集體”。在當前階段,無論是討論DAO還是線上和線下社區,它們代表了重疊但實質上相似的概念。為了更好地闡明這兩者之間的共同點,本文將討論DAO/社區處於重疊狀態。此外,本文中的“社區”一詞包括線下社區。

因此,无论您讨论的是DAO还是社区,对“治理”的讨论都属于此讨论框架之内。在技术发展的历史时间轴上,从2016年到2023年标志着DAO的初期理论探索和实验阶段。从2023年开始的新一波人工智能浪潮加速了人机共生社会的到来,推动DAO和社区进入新的发展周期。

在这个新的周期中,AI治理将发挥主导作用。 AI模型对个人数据的全面捕获将变得普遍。 例如,苹果的个人上下文技术从iPhone上获取大量本地数据,以为用户提供模型认为最佳的决策辅助。

無論是在 DAO 中的治理決策、社區中的集體決策,還是 AI 助理的決策輔助,我們都正在目睹一場重大的社會轉型。這種轉型影響著每個個人和組織在人機共生社會中的生存條件。

大型模型捕捉個人數據的粒度將顯著增強它們在特定用戶場景中的推理能力。此外,隨著各種人工智能模型越來越多地集成到在線系統中以增強工具智能,技術上的競爭驅使商業公司必須盡一切手段獲取更多個人隱私數據。

因此,在人類治理趨向AI治理的時代,工具系統的廣泛應用將無意識地推動人類對DAO和社區中所有個體行為數據指標進行量化。這代表了機器的KPI系統對人類社會活動系統的作用。

不管我们喜欢与否,这个趋势都是不可逆转的。然而,我们必须提前清楚地意识到这些量化指标对我们意味着什么,个人隐私数据量化指标如何干扰我们的日常决策,以及随之而来的它如何影响我们的社会合作关系。

DAO和社群體現了我們擺脫傳統合作組織、尋求平等和公平合作的渴望。然而,它們必然面臨新的發展挑戰。因此,本文以“量化公共貢獻的治理悖論”為起點,探討在DAO和社群中採用可量化貢獻治理機制所面臨的根本矛盾。它還檢視了AI量化公平指標作為雙刃劍如何創造偏見共識和不公平。

01 社區發展的當前量化困境

1. 常見問題和更深層次的問題

眾所周知,在 DAO/社區治理中,看似平等的民主投票系統可能導致 DAO 結構內的權力集中。即使有代議制民主,少數核心成員也可以壟斷決策權和執行權。這在DAO的經典結構模型中是不可避免的,其中決策和執行權力是內在聯繫的。

當決策權集中在少數核心成員手中時,參與治理的必然下降。從博弈理論的角度看,這幾個成員掌握著社區公共資源的控制和優先分配。這種「權力」關係並未反映在「提案-投票」行為中。

事實上,DAO/社區治理結構展示了權力關係的不均衡分配,進一步導致“提案-投票”的民主手段並未真正賦予個人有效的個人權力。這導致非核心利益相關者參與治理的意願降低。成員之間的差異必然導致差異化的治理權力。

全球DAO建立者現在已經揭開了「民主投票系統」的神秘面紗。回想起來,我們在自由資本主義的敘事框架中錯置了我們的發展意願,導致了對真正自由和民主的集體幻覺。

經過這條彎路的遊覽,我們現在能夠從歷史和社會的角度重新審視我們過去的實驗性錯誤。為了克服DAO的治理困境,我們必須面對一些根本問題,例如解構個體性以建立公共性,混淆社區和公共性之間的界限,代幣激勵機制掩蓋了文化秩序在形塑組織中的作用,以及公共財產權的不平等抑制了DAO內個體的發展。

今天我們繼續面臨許多問題,需要更多的研究人員致力於理論和實踐,以克服我們目前的挑戰。表面問題掩蓋著長期存在的社會學難題。

2. 量化公共貢獻行為的治理機制

從DAO / 社區治理的核心問題中,我們可以確定我們對DAO / 社區治理的基本需求:追求“公共資源公平分配”的最佳解決方案。因此,我們通常使用量化公共貢獻行為的方法來確定如何將公共資源分配給對社區做出貢獻的各個成員。

令牌系統和積分系統是量化貢獻行為價值並將其轉換為現金的常見方式(這裡的現金指的是可衡量的價值單位;積分/令牌是可衡量的單位)。

我們試圖將某些行為定義為對整個社區具有積極貢獻價值的行為。因此,我們使用積分獎勵系統來激勵社區成員積極參與更有貢獻價值的行為。社區成員可以將積分兌換成現金/福利。積分作為實現和交易貢獻價值的媒介,類似於貨幣的功能。

對於加密社區來說,代幣激勵旨在解決相同的治理需求,但更注重使用技術和貨幣媒介。例如,鏈上活動數據被用作代幣激勵的估值基礎。

直观上,我们相信量化贡献行为可以建立客观公平的经济奖励机制。这一机制使我们能够清楚地看到每个人的贡献,从而实现公共资源的公平分配。这是我们通常引入点统计系统和代币激励系统的表面原因。

3. 量化公眾貢獻行為的詛咒

採用積分系統或代幣激勵系統的定量治理方法似乎是我們對社會經濟系統的經驗理解所驅動的慣性。良好的經濟制度可以促進社會的繁榮和發展。然而,仔細研究不同國家的古代和現代,可以發現沒有任何經濟制度能夠完美地解決公平的社會分配問題。

不同的經濟制度在不同的時期運作,但社會是一個更複雜的制度,經濟制度總是在某個時候失敗。有時,最初有效的經濟制度甚至加劇了社會貧富差距,與我們尋求良好經濟制度的初衷背道而馳。

量化公眾貢獻行為背後的初衷是好的,但現實往往與理想有所偏差。

當我們試圖通過量化公眾貢獻行為來建立“公共資源的公平分配”的最優解時,確切的數值計算系統也允許個體基於定量指標在公共資源中尋求其個人最大利益和最優解。清晰的數值指標成為利益計算的優秀工具。由於規則允許,我們通常只有在個體尋求利益的行為破壞公共資源的公平界線時才意識到具體問題的嚴重性,但到那時,往往已經太晚。

在早期階段,積分制激勵貢獻行為,並繼續營造具有主觀主動性的自發貢獻氛圍。這種氛圍導致個人自發地從事各種不可量化、無法定義的貢獻行為。

當非營利性的主觀貢獻氛圍(一種微妙的“模糊”社區價值氛圍,使非功利性貢獻行為具有影響力)被破壞時,那些受社會和文化價值認同驅使的貢獻行為將顯著減少。因此,遵循規則的營利性行為破壞了社區的公平性,而系統性問題在短期內很難解決。這不可避免地導致許多隱形貢獻的消失和相關人員的撤離。

02 量化公眾貢獻行為的堆疊悖論

1.我們對經濟激勵的直觀感知

在我们的常识中,直觉上认为当有人为社区做出有益贡献时,他们应该自然而然地获得经济奖励。这几乎是我们所有人对这一机制的一个无可置疑的共识。

然而,我們應進一步檢視導致這種直觀理解的前提條件。我認為至少有兩個原因: 一個源於我們對社會經濟體系的經驗性理解,即勞動應該得到應有的回報; 另一個源於我們的道德感,受到歷史背景和社會文化的塑造,這讓我們根深蒂固地認為公平和正義——好人應該得到獎勵,尤其是那些公開做出貢獻的人。

正是我們的社會經驗和道德感,使我們具有這種直觀的,雖然未經審查的,通過量化激勵社區貢獻是可行和合理的認知。

這種對貢獻進行量化認可的形式涉及主觀干預客觀性,將我們帶入經驗邏輯的陷阱。因此,我們很容易遇到某事“直覺上是真實的,但客觀上是虛假的”這種悖論。

量化特定概念的堆疊悖論

關於量化公眾貢獻行為的治理機制,它實際上包括兩種形式:話語形式和測量形式。話語形式解釋行為符號,而測量形式通過定量研究量化行為行動的程度。在測量形式中,存在與行動發生/執行的範圍和程度相關的問題。因此,我們優先討論測量形式中定量研究的堆疊悖論。

什麼是堆疊悖論?

堆疊悖論(索禮特悖論),又稱為堆積悖論,涉及與模糊謂詞和漸進變化的一系列問題。例如,如果一粒沙子不是一堆,並且將一粒沙子添加到不是一堆的東西上仍然不會使其成為一堆,那麼無論你添加多少粒,你永遠不會得到一堆。這個悖論凸顯了定義定性變化何時導致定量變化的問題,這與我們討論公眾貢獻的量化直接相關。

在量化公共貢獻方面,我們面臨類似的挑戰。定義和衡量貢獻的確切價值可能會有問題,因為小的漸進式貢獻可能不被認可,但它們的累積效應是顯著的。這導致創建公平有效的激勵機制變得困難,這些激勵機制能夠準確反映每個人對社區的貢獻的真實價值。

什麼是Sorites悖論?

佐理特斯悖論,也被稱為堆積悖論,是一個處理概念界限和模糊性問題的哲學悖論。該悖論可以通過以下推理來說明:

  1. 一粒沙子不能成堆。

  2. 如果N粒沙子不能形成一堆,那么N+1粒沙子也不能形成一堆。

  3. 通過遞歸,我們可以得出結論:N+1、N+2、N+3,…,1,000,000粒沙子並不能組成一堆。

  4. 然而,如果100萬粒沙子不構成一堆,那麼再加一粒也不應該構成一堆。

  5. 但根據遞歸推理,我們會得出結論,一粒沙子就是一堆。

因此,我們發現自己處於矛盾之中,無法確定一堆沙子何時變成非沙堆,反之亦然。

索拉斯悖論的核心問題在於概念邊界的模糊和變化的連續性。它揭示了在某些情況下,我們傳統的概念和分類規則無法應用於邊界情況,使得我們無法確定一個狀態何時過渡到另一個。這個悖論挑戰了我們對概念和分類的直覺。

這意味著概念分類的困難,因為在遞歸過程中,我們無法確定過渡發生的地點或時間。這引發了對界限和模糊的思考,並質疑了概念分類和定義的合理性。

——來自ChatGPT

三、主觀意志決定的邊界轉換邏輯

Sorites悖论的一个自然延伸是我们如何定义某些行为转化为公共贡献的过程。例如,在一些社区治理模型中,参加会议可以获得积分。在重视参与的社区中,对公共活动的任何参与都被视为值得激励的。

然而,在以結果為導向的社會中,僅僅參加會議並不能直接衡量貢獻價值。因此,僅僅參與會議並不會受到激勵。這種邏輯代表了我們對貢獻行為的直觀解讀。

在重視參與的社區中,參加每週、每月或每季的會議成為一種可激勵的貢獻行為。然而,參加會議一分鐘和一小時是有所區別的。由於DAO/社區中的參與者可以在一分鐘和一小時之間的任何時間退出會議,我們應該如何合理設定獎勵比例的梯度呢?

根據時間維度,我們進一步引入了溝通互動維度。溝通互動是比僅僅參加會議更深層次的參與。我們如何衡量可能發生在一分鐘到一小時之間的互動次數、互動參與者數量以及互動主題的相關性?這帶來了另一個挑戰。

當我們使用定量形式來評估兩個貢獻維度時,複雜性顯著增加。如果我們將定量形式作為評估貢獻的主要方法,我們必然將系統推向更大的複雜性。

隨著系統的複雜性增加,邊界和連續程度的計算變得更加嚴格,社區治理人員的勞動成本也急劇上升。這可能導致度量冗餘和不可持續的成本結構,最終將整個系統困於低效和難以管理的高額開支狀態。

4. 開放社區中主觀價值界限的變動性

形成社區共識的集體主觀意願,本質上是基於話語的共識。這種共識主要是通過詮釋主義實現的,該詮釋包括重新詮釋和重構意義。詮釋是對符號的深入描述,而符號是我們達成共識的媒介。

在社區中,開放和流動的結構意味著共識主要通過“溝通和互動”來嘗試。這就是為什麼許多DAO/社區在面臨治理困難時似乎有著無休止的會議(辯論/爭吵/批評,卻很少進行深入的建設性討論)。

然而,開放且流動的人員結構也導致集體主觀意願處於不穩定狀態,使得集體決策邏輯的基線變動不定。解釋邏輯不斷變化。雖然解釋邏輯深深影響著量化方面,但量化形式的表面變化不大;它可能只涉及向計算方法中添加新的類別。

因此,開放且流暢的解釋互動結構確保社區對公共貢獻的價值偏好不是靜態的。時間在這方面是一個關鍵因素。對於 DAO/社區來說,作為社會關係中的結構模型,實現連續性必須考慮時間因素。

「任何真實的歷史序列在時間上都必然是複雜的,因為它是不同社會過程在不同時間上的特定組合。而任何特定的歷史序列可能結合了過多的趨勢、例行公事和事件,」威廉·H·休爾·朱尼爾的分析凸顯了歷史序列中時間性的複雜性。在社會學中,歷史序列可以被理解為時間序列,這是描述和分析社會現象的基本敘事形式。

了解“趨勢、例行公事和事件”意味著什麼是至關重要的:

  • 趨勢是社會關係的方向變化。歷史學家經常使用「上升」和「衰落」等術語來標記這種時間性。
  • 例行公事指的是相對固定和重複性的活動,如在制度約束下的穩定且不斷發展的活動模式。
  • 事件是一系列改變結構的行動,集中在時間上,能夠建立新的例程來改變舊的例程,從而加速、逆轉或重新置放趨勢。

這個暫時性分析模型來自威廉·H·西維爾Jr.對不同社會背景中一系列經濟、政治和技術因素如何改變碼頭工人社區決策基礎和價值取向的研究。這正是DAO/社區目前在發展中所經歷的。

例如,在加密牛市的高峰期和對民主投票系統盲目信仰的時期,社區貢獻者對未來持樂觀態度,願意為了代幣獎勵和投票權利而承諾他們的貢獻,追求更大的未來回報。相反地,在加密熊市的持續期間和對民主投票系統的幻滅,社區貢獻者受悲觀的未來預期驅使,拒絕在沒有即時回報的情況下貢獻,並強調現金流以確保他們的貢獻得到應有的回報。

本案例說明了經濟和政治因素作為趨勢如何改變我們的日常行為模式。

5. 互動結構遊戲中的協作策略

在時間性的影響下,DAO/社區中不斷變化的價值偏好和波動的決策基準不可避免地導致了社區共識互動結構的不穩定。在這種不穩定的共識互動結構中,社區貢獻者被迫經常調整他們與社區的合作策略,因為他們的身份、位置和價值傾向很容易被社區的共識結構所左右。

一個社區的集體努力,以確保公眾利益,是建立在個體發展和社區發展之間的長期互利關係上通過共識互動結構。然而,一個不穩定甚至混亂的共識互動結構會鬆散和混淆這種互利關係,最終導致其解散。

在這種情況下,社區貢獻者的基本立場可能會從以利他主義為優先的互利關係轉變為以自身利益為優先的互動關係。

6. The Hare Hunting Game: Abandoning Collective Interest Maximization

社區內相互合作和互利的原則依賴於穩定的共識互動結構。一旦個人失去對集體互利關係的信任,DAO/社區必然從追求集體利益最大化模式(獵鹿)轉向確保個人利益優先(捕兔)。

鹿獵的概念源於盧梭的《論不平等的起源和基礎》。鹿獵描述了一個情景,獵人可以獨立地捕獵野兔以滿足其基本生存需求。然而,狩獵鹿獲得更大的回報,收益遠遠超過狩獵野兔。

然而,一個人不能單獨獵殺一隻雄鹿,必須與其他獵人合作。參與的獵人越多,狩獵雄鹿的成功率就越高。如果獵人在獵鹿期間發現了一隻野兔並選擇獵殺它,這會增加獵鹿失敗的可能性。因此,野兔狩獵與雄鹿狩獵成為個人與集體利益的遊戲。

在DAO/社區治理機制中,Stag Hunt的互動形式應該是我們的主要考慮因素。然而,在現實中,我們常常在DAO/社區治理討論中看到各種與博弈論相關的爭議。典型的例子包括搭便車問題和公共物品困境。

在一個相互利益的互動結構的參與者之間缺乏明確的合作策略和利益立場,導致了對特定公共利益爭端是如何產生和解決的困難。此外,這也使我們難以確定哪些公共博弈屬於合理範圍的定義。這無疑是一個具有挑戰性的研究任務,需要大量的投資。

因此,當面臨公眾利益問題時,DAO/社區必須建立一個堅固可靠的共識互動結構,鼓勵參與者將集體利益置於個人利益之上。這包括創造一個合作的環境(狩獵鹿)超過即時個人獎勵的誘惑(狩獵野兔),培養信任並長期致力於集體目標。

03 勞動剝削和社區無形貢獻價值的疏離

1. 在DAOs/社區中的隱形勞動開發

如前所述,對於何稱為貢獻行為是由集體共識的解釋框架所定義的,這意味著貢獻的整體價值偏好反映了社區的集體意願。然而,社區內較弱群體形成的共識通常無法影響社區的整體價值偏好。

這將我們帶到了女權主義和資本主義之間的權利爭取。例如,家庭主婦在管理家務、做家事以及照顧年長者和孩子方面做出了重大貢獻。正是通過她的勞動,男性才能在社會生產中得到可靠的支持。從社會學的角度來看,我們不能忽視女性對社會和經濟發展所做出的貢獻的價值。

然而,在资本主义的逻辑中,由女性完成的家务劳动并不被市场所认可,也无法换取报酬。资本主义市场体系直接忽视了这种劳动身份的职业价值,导致了女性在社会经济结构中无形劳动的无情剥削。

同樣,在 DAO/社區中,有許多貢獻行動無法集體解釋和衡量。DAO/社區中存在對無形貢獻的利用。儘管意識到一些貢獻行為在短期內無法得到認可,但可以採取諸如繳費跟蹤激勵、福利補貼甚至自我賦權(積極要求貢獻權)等措施。補救措施可以根據社區的具體情況實施,但不能掩蓋根本性和實質性問題。

非可量化的隱藏貢獻的基本問題在於缺乏集體解釋(弱共識)和衡量(無價定)。主導群體的共識存在價值偏好的盲點。這導致一個基本問題,即未經集體解釋或沒有言論形式的貢獻無法進入定量貢獻再生結構,從而否定了生產結構中非可量化貢獻的再生產價值。

對於一個社區來說,許多自發貢獻,並未被共識所解釋或評估,例如情感價值和智力價值,構成了“社區-情感-連接”的抽象文化符號再現結構。這些基本元素對於社區來說是無價的,代表著重要的微觀、多樣化和大規模的生產要素。

2. 貨幣交易媒介如何使社區參與者感到疏遠

對於 DAO/社區,集體貢獻應該是多元和自發的。我們對公眾貢獻的認可本質上是對多元價值的承認和尊重。然而,量化不可避免地將貢獻的價值轉化為單一的金錢價值,因為定量價值作為貨幣媒介,最終必須轉化為現金。

貢獻價值被解釋為貨幣單位的可測量價值,這些貨幣單位的價值對應於商品的消費價值。通過貨幣的媒介,量化的貢獻進入商品市場的交易系統。由貨幣媒介促進的DAO/社區中的貢獻在廣泛的經濟市場內流通。

雖然這個過程有助於將貢獻從封閉的社區轉移到開放且廣闊的市場,使社區貢獻者能夠在交易市場上獲得更高的回報,但它也將公共貢獻的價值邏輯轉化為公共市場上商品交易的邏輯。

當社區互動結構中的互惠關係轉變為交易關係時,例如,當貢獻是為了獲得市場資金或商品,而不是考慮社區的可持續發展和價值保護時,就會出現一個基本轉變。

隨著以自私利潤尋求策略在互動結構中變得普遍,資本將結構轉變為旨在最大化資本再生的結構。資本捕獲社區的再生結構,通過象徵性生產,使貢獻性勞動的價值概念變為疏離。

這種疏離是因為金錢激勵轉移了關注點,使得從共同價值和集體目標轉向個人獲益和市場驅動的交易。因此,對於貢獻社區的可持續性和共享理念的內在動機受到損害,被金錢獎勵和個人利益的外在動機所取代。這種轉變從根本上改變了社區貢獻的性質,侵蝕了維持社區凝聚力的社會結構,將合作努力轉變為市場驅動的交換。

3. 貨幣激勵通脹導致貢獻通縮

貨幣激勵代表一個不平衡的經濟模型。為了在社區中促進更多的貢獻行為,選擇點/代幣激勵系統本質上涉及採用風險的貨幣政策。該政策將大量不可兌換的貢獻價值轉化為貨幣價值。

對這種風險導向的貨幣政策的積極實施不斷導致貢獻貨幣的通脹和社區貢獻價值的稀釋。在這種風險重重的貨幣政策下,貨幣的持續通脹導致貢獻價值的持續稀釋。

社區的發展依賴於業務增長以推動有效的經濟行為。在社區治理機制中,將基於積分的系統作為激勵方法的優先考慮,不可避免地涉及各種方法來發行積分/代幣以刺激更多的貢獻行為。這創造了一種看似合理的增長模型:“目標-任務-貨幣-貢獻”。

然而,點數制度作為貨幣激勵不僅起著價值轉移的功能,還起著價值實現的關鍵功能。在沒有建立可持續發展的業務的情況下實施點數制度,就好比向社區注入生長刺激劑。它帶來的短期繁榮加速了社區的衰落,這對任何經濟體都是如此。

過度的貢獻產出和貨幣囤積,隨後是不足的貢獻產出和持續的貨幣發行以刺激它,創造了一個不可逃避的循環。無法擺脫這個循環的治理機制必然導致貢獻價值的稀釋和貢獻貨幣的持續貶值。當貨幣通脹和價值稀釋發生時,社區的健康貢獻氛圍將不可避免地受損,從而導致貢獻行為的緊縮。

本質上,當社區發行更多的積分/代幣而沒有相應的有價值貢獻時,每個積分/代幣的真正價值會下降。這種貶值會使貢獻者失去動力,因為他們的努力將產生遞減的回報。因此,較少的成員會願意積極參與,導致整體貢獻水平下降,這種現象被稱為貢獻通脹。因此,社區必須仔細平衡貨幣激勵措施,以維持貢獻的價值和動力,確保可持續的增長和參與。

最後

AI測量複雜治理系統的風險

在測量形式中,定量研究非常正式,而“貢獻”則是對文化符號的一種解釋。我們試圖量化一個解釋性社會符號網絡系統,它涵蓋了政治、經濟和文化元素,遠遠超出我們從經濟角度理解的可測量的貢獻系統。

量化复杂系统具有吸引力,但却极其危险。它意味着公共权力试图控制一个超复杂系统,而忽视其固有的发展规律。随着测量形式变得越来越复杂,处理公共社会系统内复杂的人际利益关系变得令人不知所措,最终导致计算失误。这导致一系列测量形式的崩溃,最终导致公共系统的崩溃。

隨著治理系統變得越來越複雜,人類將不可避免地轉向人工智慧來尋求治理説明。在人與AI共生的時代,人類將無法準確判斷特定場景下的治理條件,並可能將這些任務委託給AI。這類似於大型語言模型的出現效應,研究人員仍然不完全理解智慧出現背後的原理。

社區治理的最終目標是實現道德正義。量化是衡量社區成員貢獻價值並根據該價值體系公平分配資源的一種手段。

然而,隨著衡量公眾貢獻的治理程序演變成為一個龐大而複雜的系統,人類不可避免地會引入人工智慧來協助治理任務。人類將無法準確判斷特定的治理條件,這些任務可能會交給人工智慧處理。就像大型語言模型的出現效應一樣,研究人員仍然沒有完全理解智能出現背後的原理。

AI訓練數據可能包含未經處理的風險數據,如種族歧視言論、性別反對言論、暴力行為數據等,導致AI對道德正義的理解存在偏差,並在特定情況下引發治理危機。

確保人工智慧在複雜的人類治理環境中始終如一地做出正確的決策是一項挑戰。訓練數據的多樣性和分散式治理體系的構建,理論上有助於AI做出更客觀、更公平的決策。然而,在匿名去中心化治理系統中,可以使用多個匿名帳戶發起女巫攻擊,以發起忘卻證明攻擊,從模型中刪除特定的訓練數據集。或者,將污染數據注入分散式訓練模型可能會導致模型預測出現偏差。這是對注意力機制的反向干擾攻擊的一種形式。

大多數目前關於人工智慧治理的研究仍停留在學術領域。然而,隨著技術的快速進步和人類對數字治理系統的依賴增加,我們必然會面臨更加複雜的治理環境。

免責聲明:

  1. 本文轉載自[VION WILLIAMS].所有版權歸原作者所有 [VION WILLIAM]. 如果對此轉載有異議,請聯繫Gate。Gate 學習團隊,他們將會迅速處理。
  2. 責任聲明:本文所表達的觀點和意見僅代表作者個人觀點,並不構成任何投資建議。
  3. 文章的翻譯工作由Gate Learn團隊完成。未經許可,禁止複製、分發或剽竊已翻譯的文章。

在社區中量化公共貢獻的治理悖論

進階Aug 07, 2024
本文討論了將DAO和社區治理中的公共貢獻量化的悖論,並強調目前的量化機制往往會導致權力集中和參與度降低。它還分析了引入AI治理可能帶來的風險。
在社區中量化公共貢獻的治理悖論

本文探討的DAO/社群概念將被稱為“社群集體”。在當前階段,無論是討論DAO還是線上和線下社區,它們代表了重疊但實質上相似的概念。為了更好地闡明這兩者之間的共同點,本文將討論DAO/社區處於重疊狀態。此外,本文中的“社區”一詞包括線下社區。

因此,无论您讨论的是DAO还是社区,对“治理”的讨论都属于此讨论框架之内。在技术发展的历史时间轴上,从2016年到2023年标志着DAO的初期理论探索和实验阶段。从2023年开始的新一波人工智能浪潮加速了人机共生社会的到来,推动DAO和社区进入新的发展周期。

在这个新的周期中,AI治理将发挥主导作用。 AI模型对个人数据的全面捕获将变得普遍。 例如,苹果的个人上下文技术从iPhone上获取大量本地数据,以为用户提供模型认为最佳的决策辅助。

無論是在 DAO 中的治理決策、社區中的集體決策,還是 AI 助理的決策輔助,我們都正在目睹一場重大的社會轉型。這種轉型影響著每個個人和組織在人機共生社會中的生存條件。

大型模型捕捉個人數據的粒度將顯著增強它們在特定用戶場景中的推理能力。此外,隨著各種人工智能模型越來越多地集成到在線系統中以增強工具智能,技術上的競爭驅使商業公司必須盡一切手段獲取更多個人隱私數據。

因此,在人類治理趨向AI治理的時代,工具系統的廣泛應用將無意識地推動人類對DAO和社區中所有個體行為數據指標進行量化。這代表了機器的KPI系統對人類社會活動系統的作用。

不管我们喜欢与否,这个趋势都是不可逆转的。然而,我们必须提前清楚地意识到这些量化指标对我们意味着什么,个人隐私数据量化指标如何干扰我们的日常决策,以及随之而来的它如何影响我们的社会合作关系。

DAO和社群體現了我們擺脫傳統合作組織、尋求平等和公平合作的渴望。然而,它們必然面臨新的發展挑戰。因此,本文以“量化公共貢獻的治理悖論”為起點,探討在DAO和社群中採用可量化貢獻治理機制所面臨的根本矛盾。它還檢視了AI量化公平指標作為雙刃劍如何創造偏見共識和不公平。

01 社區發展的當前量化困境

1. 常見問題和更深層次的問題

眾所周知,在 DAO/社區治理中,看似平等的民主投票系統可能導致 DAO 結構內的權力集中。即使有代議制民主,少數核心成員也可以壟斷決策權和執行權。這在DAO的經典結構模型中是不可避免的,其中決策和執行權力是內在聯繫的。

當決策權集中在少數核心成員手中時,參與治理的必然下降。從博弈理論的角度看,這幾個成員掌握著社區公共資源的控制和優先分配。這種「權力」關係並未反映在「提案-投票」行為中。

事實上,DAO/社區治理結構展示了權力關係的不均衡分配,進一步導致“提案-投票”的民主手段並未真正賦予個人有效的個人權力。這導致非核心利益相關者參與治理的意願降低。成員之間的差異必然導致差異化的治理權力。

全球DAO建立者現在已經揭開了「民主投票系統」的神秘面紗。回想起來,我們在自由資本主義的敘事框架中錯置了我們的發展意願,導致了對真正自由和民主的集體幻覺。

經過這條彎路的遊覽,我們現在能夠從歷史和社會的角度重新審視我們過去的實驗性錯誤。為了克服DAO的治理困境,我們必須面對一些根本問題,例如解構個體性以建立公共性,混淆社區和公共性之間的界限,代幣激勵機制掩蓋了文化秩序在形塑組織中的作用,以及公共財產權的不平等抑制了DAO內個體的發展。

今天我們繼續面臨許多問題,需要更多的研究人員致力於理論和實踐,以克服我們目前的挑戰。表面問題掩蓋著長期存在的社會學難題。

2. 量化公共貢獻行為的治理機制

從DAO / 社區治理的核心問題中,我們可以確定我們對DAO / 社區治理的基本需求:追求“公共資源公平分配”的最佳解決方案。因此,我們通常使用量化公共貢獻行為的方法來確定如何將公共資源分配給對社區做出貢獻的各個成員。

令牌系統和積分系統是量化貢獻行為價值並將其轉換為現金的常見方式(這裡的現金指的是可衡量的價值單位;積分/令牌是可衡量的單位)。

我們試圖將某些行為定義為對整個社區具有積極貢獻價值的行為。因此,我們使用積分獎勵系統來激勵社區成員積極參與更有貢獻價值的行為。社區成員可以將積分兌換成現金/福利。積分作為實現和交易貢獻價值的媒介,類似於貨幣的功能。

對於加密社區來說,代幣激勵旨在解決相同的治理需求,但更注重使用技術和貨幣媒介。例如,鏈上活動數據被用作代幣激勵的估值基礎。

直观上,我们相信量化贡献行为可以建立客观公平的经济奖励机制。这一机制使我们能够清楚地看到每个人的贡献,从而实现公共资源的公平分配。这是我们通常引入点统计系统和代币激励系统的表面原因。

3. 量化公眾貢獻行為的詛咒

採用積分系統或代幣激勵系統的定量治理方法似乎是我們對社會經濟系統的經驗理解所驅動的慣性。良好的經濟制度可以促進社會的繁榮和發展。然而,仔細研究不同國家的古代和現代,可以發現沒有任何經濟制度能夠完美地解決公平的社會分配問題。

不同的經濟制度在不同的時期運作,但社會是一個更複雜的制度,經濟制度總是在某個時候失敗。有時,最初有效的經濟制度甚至加劇了社會貧富差距,與我們尋求良好經濟制度的初衷背道而馳。

量化公眾貢獻行為背後的初衷是好的,但現實往往與理想有所偏差。

當我們試圖通過量化公眾貢獻行為來建立“公共資源的公平分配”的最優解時,確切的數值計算系統也允許個體基於定量指標在公共資源中尋求其個人最大利益和最優解。清晰的數值指標成為利益計算的優秀工具。由於規則允許,我們通常只有在個體尋求利益的行為破壞公共資源的公平界線時才意識到具體問題的嚴重性,但到那時,往往已經太晚。

在早期階段,積分制激勵貢獻行為,並繼續營造具有主觀主動性的自發貢獻氛圍。這種氛圍導致個人自發地從事各種不可量化、無法定義的貢獻行為。

當非營利性的主觀貢獻氛圍(一種微妙的“模糊”社區價值氛圍,使非功利性貢獻行為具有影響力)被破壞時,那些受社會和文化價值認同驅使的貢獻行為將顯著減少。因此,遵循規則的營利性行為破壞了社區的公平性,而系統性問題在短期內很難解決。這不可避免地導致許多隱形貢獻的消失和相關人員的撤離。

02 量化公眾貢獻行為的堆疊悖論

1.我們對經濟激勵的直觀感知

在我们的常识中,直觉上认为当有人为社区做出有益贡献时,他们应该自然而然地获得经济奖励。这几乎是我们所有人对这一机制的一个无可置疑的共识。

然而,我們應進一步檢視導致這種直觀理解的前提條件。我認為至少有兩個原因: 一個源於我們對社會經濟體系的經驗性理解,即勞動應該得到應有的回報; 另一個源於我們的道德感,受到歷史背景和社會文化的塑造,這讓我們根深蒂固地認為公平和正義——好人應該得到獎勵,尤其是那些公開做出貢獻的人。

正是我們的社會經驗和道德感,使我們具有這種直觀的,雖然未經審查的,通過量化激勵社區貢獻是可行和合理的認知。

這種對貢獻進行量化認可的形式涉及主觀干預客觀性,將我們帶入經驗邏輯的陷阱。因此,我們很容易遇到某事“直覺上是真實的,但客觀上是虛假的”這種悖論。

量化特定概念的堆疊悖論

關於量化公眾貢獻行為的治理機制,它實際上包括兩種形式:話語形式和測量形式。話語形式解釋行為符號,而測量形式通過定量研究量化行為行動的程度。在測量形式中,存在與行動發生/執行的範圍和程度相關的問題。因此,我們優先討論測量形式中定量研究的堆疊悖論。

什麼是堆疊悖論?

堆疊悖論(索禮特悖論),又稱為堆積悖論,涉及與模糊謂詞和漸進變化的一系列問題。例如,如果一粒沙子不是一堆,並且將一粒沙子添加到不是一堆的東西上仍然不會使其成為一堆,那麼無論你添加多少粒,你永遠不會得到一堆。這個悖論凸顯了定義定性變化何時導致定量變化的問題,這與我們討論公眾貢獻的量化直接相關。

在量化公共貢獻方面,我們面臨類似的挑戰。定義和衡量貢獻的確切價值可能會有問題,因為小的漸進式貢獻可能不被認可,但它們的累積效應是顯著的。這導致創建公平有效的激勵機制變得困難,這些激勵機制能夠準確反映每個人對社區的貢獻的真實價值。

什麼是Sorites悖論?

佐理特斯悖論,也被稱為堆積悖論,是一個處理概念界限和模糊性問題的哲學悖論。該悖論可以通過以下推理來說明:

  1. 一粒沙子不能成堆。

  2. 如果N粒沙子不能形成一堆,那么N+1粒沙子也不能形成一堆。

  3. 通過遞歸,我們可以得出結論:N+1、N+2、N+3,…,1,000,000粒沙子並不能組成一堆。

  4. 然而,如果100萬粒沙子不構成一堆,那麼再加一粒也不應該構成一堆。

  5. 但根據遞歸推理,我們會得出結論,一粒沙子就是一堆。

因此,我們發現自己處於矛盾之中,無法確定一堆沙子何時變成非沙堆,反之亦然。

索拉斯悖論的核心問題在於概念邊界的模糊和變化的連續性。它揭示了在某些情況下,我們傳統的概念和分類規則無法應用於邊界情況,使得我們無法確定一個狀態何時過渡到另一個。這個悖論挑戰了我們對概念和分類的直覺。

這意味著概念分類的困難,因為在遞歸過程中,我們無法確定過渡發生的地點或時間。這引發了對界限和模糊的思考,並質疑了概念分類和定義的合理性。

——來自ChatGPT

三、主觀意志決定的邊界轉換邏輯

Sorites悖论的一个自然延伸是我们如何定义某些行为转化为公共贡献的过程。例如,在一些社区治理模型中,参加会议可以获得积分。在重视参与的社区中,对公共活动的任何参与都被视为值得激励的。

然而,在以結果為導向的社會中,僅僅參加會議並不能直接衡量貢獻價值。因此,僅僅參與會議並不會受到激勵。這種邏輯代表了我們對貢獻行為的直觀解讀。

在重視參與的社區中,參加每週、每月或每季的會議成為一種可激勵的貢獻行為。然而,參加會議一分鐘和一小時是有所區別的。由於DAO/社區中的參與者可以在一分鐘和一小時之間的任何時間退出會議,我們應該如何合理設定獎勵比例的梯度呢?

根據時間維度,我們進一步引入了溝通互動維度。溝通互動是比僅僅參加會議更深層次的參與。我們如何衡量可能發生在一分鐘到一小時之間的互動次數、互動參與者數量以及互動主題的相關性?這帶來了另一個挑戰。

當我們使用定量形式來評估兩個貢獻維度時,複雜性顯著增加。如果我們將定量形式作為評估貢獻的主要方法,我們必然將系統推向更大的複雜性。

隨著系統的複雜性增加,邊界和連續程度的計算變得更加嚴格,社區治理人員的勞動成本也急劇上升。這可能導致度量冗餘和不可持續的成本結構,最終將整個系統困於低效和難以管理的高額開支狀態。

4. 開放社區中主觀價值界限的變動性

形成社區共識的集體主觀意願,本質上是基於話語的共識。這種共識主要是通過詮釋主義實現的,該詮釋包括重新詮釋和重構意義。詮釋是對符號的深入描述,而符號是我們達成共識的媒介。

在社區中,開放和流動的結構意味著共識主要通過“溝通和互動”來嘗試。這就是為什麼許多DAO/社區在面臨治理困難時似乎有著無休止的會議(辯論/爭吵/批評,卻很少進行深入的建設性討論)。

然而,開放且流動的人員結構也導致集體主觀意願處於不穩定狀態,使得集體決策邏輯的基線變動不定。解釋邏輯不斷變化。雖然解釋邏輯深深影響著量化方面,但量化形式的表面變化不大;它可能只涉及向計算方法中添加新的類別。

因此,開放且流暢的解釋互動結構確保社區對公共貢獻的價值偏好不是靜態的。時間在這方面是一個關鍵因素。對於 DAO/社區來說,作為社會關係中的結構模型,實現連續性必須考慮時間因素。

「任何真實的歷史序列在時間上都必然是複雜的,因為它是不同社會過程在不同時間上的特定組合。而任何特定的歷史序列可能結合了過多的趨勢、例行公事和事件,」威廉·H·休爾·朱尼爾的分析凸顯了歷史序列中時間性的複雜性。在社會學中,歷史序列可以被理解為時間序列,這是描述和分析社會現象的基本敘事形式。

了解“趨勢、例行公事和事件”意味著什麼是至關重要的:

  • 趨勢是社會關係的方向變化。歷史學家經常使用「上升」和「衰落」等術語來標記這種時間性。
  • 例行公事指的是相對固定和重複性的活動,如在制度約束下的穩定且不斷發展的活動模式。
  • 事件是一系列改變結構的行動,集中在時間上,能夠建立新的例程來改變舊的例程,從而加速、逆轉或重新置放趨勢。

這個暫時性分析模型來自威廉·H·西維爾Jr.對不同社會背景中一系列經濟、政治和技術因素如何改變碼頭工人社區決策基礎和價值取向的研究。這正是DAO/社區目前在發展中所經歷的。

例如,在加密牛市的高峰期和對民主投票系統盲目信仰的時期,社區貢獻者對未來持樂觀態度,願意為了代幣獎勵和投票權利而承諾他們的貢獻,追求更大的未來回報。相反地,在加密熊市的持續期間和對民主投票系統的幻滅,社區貢獻者受悲觀的未來預期驅使,拒絕在沒有即時回報的情況下貢獻,並強調現金流以確保他們的貢獻得到應有的回報。

本案例說明了經濟和政治因素作為趨勢如何改變我們的日常行為模式。

5. 互動結構遊戲中的協作策略

在時間性的影響下,DAO/社區中不斷變化的價值偏好和波動的決策基準不可避免地導致了社區共識互動結構的不穩定。在這種不穩定的共識互動結構中,社區貢獻者被迫經常調整他們與社區的合作策略,因為他們的身份、位置和價值傾向很容易被社區的共識結構所左右。

一個社區的集體努力,以確保公眾利益,是建立在個體發展和社區發展之間的長期互利關係上通過共識互動結構。然而,一個不穩定甚至混亂的共識互動結構會鬆散和混淆這種互利關係,最終導致其解散。

在這種情況下,社區貢獻者的基本立場可能會從以利他主義為優先的互利關係轉變為以自身利益為優先的互動關係。

6. The Hare Hunting Game: Abandoning Collective Interest Maximization

社區內相互合作和互利的原則依賴於穩定的共識互動結構。一旦個人失去對集體互利關係的信任,DAO/社區必然從追求集體利益最大化模式(獵鹿)轉向確保個人利益優先(捕兔)。

鹿獵的概念源於盧梭的《論不平等的起源和基礎》。鹿獵描述了一個情景,獵人可以獨立地捕獵野兔以滿足其基本生存需求。然而,狩獵鹿獲得更大的回報,收益遠遠超過狩獵野兔。

然而,一個人不能單獨獵殺一隻雄鹿,必須與其他獵人合作。參與的獵人越多,狩獵雄鹿的成功率就越高。如果獵人在獵鹿期間發現了一隻野兔並選擇獵殺它,這會增加獵鹿失敗的可能性。因此,野兔狩獵與雄鹿狩獵成為個人與集體利益的遊戲。

在DAO/社區治理機制中,Stag Hunt的互動形式應該是我們的主要考慮因素。然而,在現實中,我們常常在DAO/社區治理討論中看到各種與博弈論相關的爭議。典型的例子包括搭便車問題和公共物品困境。

在一個相互利益的互動結構的參與者之間缺乏明確的合作策略和利益立場,導致了對特定公共利益爭端是如何產生和解決的困難。此外,這也使我們難以確定哪些公共博弈屬於合理範圍的定義。這無疑是一個具有挑戰性的研究任務,需要大量的投資。

因此,當面臨公眾利益問題時,DAO/社區必須建立一個堅固可靠的共識互動結構,鼓勵參與者將集體利益置於個人利益之上。這包括創造一個合作的環境(狩獵鹿)超過即時個人獎勵的誘惑(狩獵野兔),培養信任並長期致力於集體目標。

03 勞動剝削和社區無形貢獻價值的疏離

1. 在DAOs/社區中的隱形勞動開發

如前所述,對於何稱為貢獻行為是由集體共識的解釋框架所定義的,這意味著貢獻的整體價值偏好反映了社區的集體意願。然而,社區內較弱群體形成的共識通常無法影響社區的整體價值偏好。

這將我們帶到了女權主義和資本主義之間的權利爭取。例如,家庭主婦在管理家務、做家事以及照顧年長者和孩子方面做出了重大貢獻。正是通過她的勞動,男性才能在社會生產中得到可靠的支持。從社會學的角度來看,我們不能忽視女性對社會和經濟發展所做出的貢獻的價值。

然而,在资本主义的逻辑中,由女性完成的家务劳动并不被市场所认可,也无法换取报酬。资本主义市场体系直接忽视了这种劳动身份的职业价值,导致了女性在社会经济结构中无形劳动的无情剥削。

同樣,在 DAO/社區中,有許多貢獻行動無法集體解釋和衡量。DAO/社區中存在對無形貢獻的利用。儘管意識到一些貢獻行為在短期內無法得到認可,但可以採取諸如繳費跟蹤激勵、福利補貼甚至自我賦權(積極要求貢獻權)等措施。補救措施可以根據社區的具體情況實施,但不能掩蓋根本性和實質性問題。

非可量化的隱藏貢獻的基本問題在於缺乏集體解釋(弱共識)和衡量(無價定)。主導群體的共識存在價值偏好的盲點。這導致一個基本問題,即未經集體解釋或沒有言論形式的貢獻無法進入定量貢獻再生結構,從而否定了生產結構中非可量化貢獻的再生產價值。

對於一個社區來說,許多自發貢獻,並未被共識所解釋或評估,例如情感價值和智力價值,構成了“社區-情感-連接”的抽象文化符號再現結構。這些基本元素對於社區來說是無價的,代表著重要的微觀、多樣化和大規模的生產要素。

2. 貨幣交易媒介如何使社區參與者感到疏遠

對於 DAO/社區,集體貢獻應該是多元和自發的。我們對公眾貢獻的認可本質上是對多元價值的承認和尊重。然而,量化不可避免地將貢獻的價值轉化為單一的金錢價值,因為定量價值作為貨幣媒介,最終必須轉化為現金。

貢獻價值被解釋為貨幣單位的可測量價值,這些貨幣單位的價值對應於商品的消費價值。通過貨幣的媒介,量化的貢獻進入商品市場的交易系統。由貨幣媒介促進的DAO/社區中的貢獻在廣泛的經濟市場內流通。

雖然這個過程有助於將貢獻從封閉的社區轉移到開放且廣闊的市場,使社區貢獻者能夠在交易市場上獲得更高的回報,但它也將公共貢獻的價值邏輯轉化為公共市場上商品交易的邏輯。

當社區互動結構中的互惠關係轉變為交易關係時,例如,當貢獻是為了獲得市場資金或商品,而不是考慮社區的可持續發展和價值保護時,就會出現一個基本轉變。

隨著以自私利潤尋求策略在互動結構中變得普遍,資本將結構轉變為旨在最大化資本再生的結構。資本捕獲社區的再生結構,通過象徵性生產,使貢獻性勞動的價值概念變為疏離。

這種疏離是因為金錢激勵轉移了關注點,使得從共同價值和集體目標轉向個人獲益和市場驅動的交易。因此,對於貢獻社區的可持續性和共享理念的內在動機受到損害,被金錢獎勵和個人利益的外在動機所取代。這種轉變從根本上改變了社區貢獻的性質,侵蝕了維持社區凝聚力的社會結構,將合作努力轉變為市場驅動的交換。

3. 貨幣激勵通脹導致貢獻通縮

貨幣激勵代表一個不平衡的經濟模型。為了在社區中促進更多的貢獻行為,選擇點/代幣激勵系統本質上涉及採用風險的貨幣政策。該政策將大量不可兌換的貢獻價值轉化為貨幣價值。

對這種風險導向的貨幣政策的積極實施不斷導致貢獻貨幣的通脹和社區貢獻價值的稀釋。在這種風險重重的貨幣政策下,貨幣的持續通脹導致貢獻價值的持續稀釋。

社區的發展依賴於業務增長以推動有效的經濟行為。在社區治理機制中,將基於積分的系統作為激勵方法的優先考慮,不可避免地涉及各種方法來發行積分/代幣以刺激更多的貢獻行為。這創造了一種看似合理的增長模型:“目標-任務-貨幣-貢獻”。

然而,點數制度作為貨幣激勵不僅起著價值轉移的功能,還起著價值實現的關鍵功能。在沒有建立可持續發展的業務的情況下實施點數制度,就好比向社區注入生長刺激劑。它帶來的短期繁榮加速了社區的衰落,這對任何經濟體都是如此。

過度的貢獻產出和貨幣囤積,隨後是不足的貢獻產出和持續的貨幣發行以刺激它,創造了一個不可逃避的循環。無法擺脫這個循環的治理機制必然導致貢獻價值的稀釋和貢獻貨幣的持續貶值。當貨幣通脹和價值稀釋發生時,社區的健康貢獻氛圍將不可避免地受損,從而導致貢獻行為的緊縮。

本質上,當社區發行更多的積分/代幣而沒有相應的有價值貢獻時,每個積分/代幣的真正價值會下降。這種貶值會使貢獻者失去動力,因為他們的努力將產生遞減的回報。因此,較少的成員會願意積極參與,導致整體貢獻水平下降,這種現象被稱為貢獻通脹。因此,社區必須仔細平衡貨幣激勵措施,以維持貢獻的價值和動力,確保可持續的增長和參與。

最後

AI測量複雜治理系統的風險

在測量形式中,定量研究非常正式,而“貢獻”則是對文化符號的一種解釋。我們試圖量化一個解釋性社會符號網絡系統,它涵蓋了政治、經濟和文化元素,遠遠超出我們從經濟角度理解的可測量的貢獻系統。

量化复杂系统具有吸引力,但却极其危险。它意味着公共权力试图控制一个超复杂系统,而忽视其固有的发展规律。随着测量形式变得越来越复杂,处理公共社会系统内复杂的人际利益关系变得令人不知所措,最终导致计算失误。这导致一系列测量形式的崩溃,最终导致公共系统的崩溃。

隨著治理系統變得越來越複雜,人類將不可避免地轉向人工智慧來尋求治理説明。在人與AI共生的時代,人類將無法準確判斷特定場景下的治理條件,並可能將這些任務委託給AI。這類似於大型語言模型的出現效應,研究人員仍然不完全理解智慧出現背後的原理。

社區治理的最終目標是實現道德正義。量化是衡量社區成員貢獻價值並根據該價值體系公平分配資源的一種手段。

然而,隨著衡量公眾貢獻的治理程序演變成為一個龐大而複雜的系統,人類不可避免地會引入人工智慧來協助治理任務。人類將無法準確判斷特定的治理條件,這些任務可能會交給人工智慧處理。就像大型語言模型的出現效應一樣,研究人員仍然沒有完全理解智能出現背後的原理。

AI訓練數據可能包含未經處理的風險數據,如種族歧視言論、性別反對言論、暴力行為數據等,導致AI對道德正義的理解存在偏差,並在特定情況下引發治理危機。

確保人工智慧在複雜的人類治理環境中始終如一地做出正確的決策是一項挑戰。訓練數據的多樣性和分散式治理體系的構建,理論上有助於AI做出更客觀、更公平的決策。然而,在匿名去中心化治理系統中,可以使用多個匿名帳戶發起女巫攻擊,以發起忘卻證明攻擊,從模型中刪除特定的訓練數據集。或者,將污染數據注入分散式訓練模型可能會導致模型預測出現偏差。這是對注意力機制的反向干擾攻擊的一種形式。

大多數目前關於人工智慧治理的研究仍停留在學術領域。然而,隨著技術的快速進步和人類對數字治理系統的依賴增加,我們必然會面臨更加複雜的治理環境。

免責聲明:

  1. 本文轉載自[VION WILLIAMS].所有版權歸原作者所有 [VION WILLIAM]. 如果對此轉載有異議,請聯繫Gate。Gate 學習團隊,他們將會迅速處理。
  2. 責任聲明:本文所表達的觀點和意見僅代表作者個人觀點,並不構成任何投資建議。
  3. 文章的翻譯工作由Gate Learn團隊完成。未經許可,禁止複製、分發或剽竊已翻譯的文章。
即刻開始交易
註冊並交易即可獲得
$100
和價值
$5500
理財體驗金獎勵!