人工智能(AI)有潛力幫助經(jīng)濟的各個(gè)領(lǐng)域。但是，在分析模糊且具有可能繼續人為偏見(jiàn)的數據進(jìn)行訓練的行業(yè)中，這是一個(gè)挑戰。幾年前，我在一篇有關(guān)適用于刑事累犯的機器學(xué)習(ML)的文章中描述了帶有偏見(jiàn)的問(wèn)題。隨著(zhù)時(shí)間的推移，應對偏見(jiàn)的方式已經(jīng)發(fā)生了變化，值得重新審視該行業(yè)。一種方法是著(zhù)眼于法律專(zhuān)業(yè)中偏見(jiàn)較小的領(lǐng)域。
與許多刑法相比，稅法具有更明確的規則。機器學(xué)習應用于人力資源系統(亞馬遜取消了人力資源系統)已經(jīng)有很多問(wèn)題，而就業(yè)法則是州和國家制定明確規則的另一個(gè)領(lǐng)域。選擇正確法律區域的關(guān)鍵。根據與Blue J Legal的人們的交談，似乎重點(diǎn)是將重點(diǎn)放在具有嚴格規則而非標準的領(lǐng)域。前者提供了具有清晰特征工程的能力，而后者則沒(méi)有訓練準確模型的特異性。”
Blue J Legal來(lái)自創(chuàng )始人創(chuàng )辦的多倫多大學(xué)課程，結合法律和計算機科學(xué)技能來(lái)嘗試預測案件。像往常一樣，挑戰在于如何正確地分析問(wèn)題所需的詳細信息，以了解數據集的功能。如前所述，稅收制度的選擇是第一要務(wù)。稅法有很多可以設計的規則。然后可以對數據進(jìn)行適當的標記。在他們早期從事稅收工作之后，他們開(kāi)始工作。
該產(chǎn)品面向正在評估其案件的律師。目的是為每個(gè)案件的優(yōu)勢和劣勢提供律師統計分析。
特征工程挑戰
重要的是要注意，“就業(yè)”是一類(lèi)法律問(wèn)題。每個(gè)問(wèn)題都必須分開(kāi)查看，并且每個(gè)問(wèn)題都有其自己的功能。例如，在當今的零工經(jīng)濟中，“工人是承包商還是雇員?” 是一個(gè)問(wèn)題。Blue J Legal團隊提到，他們針對每個(gè)已解決的問(wèn)題發(fā)現了20至70個(gè)特征。
這清楚地表明，與ML系統的培訓相比，特征工程是更大的挑戰。這已經(jīng)被很多人提到，但是仍然有很多人專(zhuān)注于推理引擎，因為它很酷。將數據轉化為信息是ML挑戰中更為關(guān)鍵的部分。
一旦對系統進(jìn)行了培訓，下一個(gè)挑戰就是讓律師提供正確的信息以分析其當前案件。他們必須輸入(或他們的文員必須輸入...)有關(guān)要分析的特征的每種情況的信息。
從技術(shù)上講，他們的模型使用決策樹(shù)。他們確實(shí)嘗試了其他領(lǐng)域感興趣的隨機森林模型，但發(fā)現其準確性下降了。
Blue J Legal聲稱(chēng)其早期版本可提供80-90%的準確性。
消除偏差：加號和減號
通過(guò)刪除可能導致偏見(jiàn)的變量(例如男性對女性)，他們可以訓練更通用的系統。從純粹的法律角度來(lái)看，這很好，但是與上述假釋制度不同，這可能會(huì )導致律師對問(wèn)題的分析產(chǎn)生問(wèn)題。例如，如果少數派候選人在法律制度中受到的待遇較差，律師應該知道這一點(diǎn)。Blue J Legal團隊表示，他們確實(shí)在加拿大和美國法律數據中都存在偏見(jiàn)，但是指出，他們要解決的兩個(gè)領(lǐng)域并沒(méi)有偏見(jiàn)會(huì )嚴重改變結果。
由于與上述相同的原因，他們也忽略了偏見(jiàn)??的一個(gè)領(lǐng)域。我敢肯定，由于營(yíng)銷(xiāo)原因，它也被忽略了。隨著(zhù)他們轉移到法規更少，標準更高的法律領(lǐng)域，我可以看到律師具有很強的價(jià)值，因為他們知道案件被分配給的法官是否根據案件或原告的特征有強烈的偏見(jiàn)。不過(guò)，如果他們分析了法官，我可能會(huì )看到其他偏見(jiàn)增加了，因為法官可能會(huì )對使用該系統的律師產(chǎn)生偏見(jiàn)。這是一個(gè)有趣的難題，將來(lái)必須解決。
律師應如何使用該系統
無(wú)論偏見(jiàn)如何，律師面前都面臨著(zhù)明顯的道德挑戰。例如，如果系統返回并告訴律師，類(lèi)似案件中有70%是針對原告的，律師是否應該受理此案?法律是一個(gè)不穩定的行業(yè)，許多情況是相似的但不完全相同。律師如何確定特定客戶(hù)是70%還是30%?系統如何提供信息以幫助律師決定以較低的概率受理案件或以較高的概率拒絕案件?與其他職業(yè)一樣，希望律師會(huì )仔細評估結果。但是，就像在所有行業(yè)中一樣，忙碌的人們會(huì )走捷徑，而太多的人采用了GIGO的舊縮寫(xiě)，不再意味著(zhù)“垃圾進(jìn)來(lái)，垃圾出去”，而是“垃圾進(jìn)去，福音出去”。
幫助的一種方法是提供法律備忘錄。Blue J Legal系統提供了律師提供的答案列表以及每個(gè)答案的類(lèi)似案例。不是律師，我不能說(shuō)這做得如何，但這是系統的關(guān)鍵部分。就像太多的開(kāi)發(fā)人員專(zhuān)注于引擎而不是功能工程一樣，他們專(zhuān)注于引擎，同時(shí)最大限度地減少了解釋引擎的需求。在應用了機器學(xué)習的所有領(lǐng)域，特別是在專(zhuān)業(yè)領(lǐng)域，黑匣子系統都不可信賴(lài)。必須支持分析，以便律師理解和評估通用決定如何影響其具體案件。
法律是測試AI與人之間融合的有趣途徑。自動(dòng)化不會(huì )很快取代律師，但是隨著(zhù)AI的發(fā)展，自動(dòng)化將能夠越來(lái)越多地為行業(yè)內的人們提供幫助，使他們對選擇權有更多的了解，并更有效地利用他們的時(shí)間。值得關(guān)注的是兩者之間的平衡。