機器學習技術越來越成熟，也被應用在更多重要的情境中，機器學習模型不能再被當作一個黑盒子使用，開發者需要了解其中運作的細節，因此機器學習的可解釋性與評估工具逐漸受到重視。Google現在釋出一個稱為ML-fairness-gym的工具，讓用戶建構簡單的模擬，以探索機器學習決策系統，在社會環境中的潛在長期影響。