自从AI人工智能在全球大热后,各国就在谈论如何增强AI算法的透明度,以建立人们对人工智能的信任和信心。AI透明技术,也称为可解释性AI,主要是从AI算法的输出反向追踪,以让人们可以理解AI算法内部究竟发生了什么。随着AI越来越多地用于跨行业决策,了解AI算法如何以及为什么做出其决策,可以缓解当今大多数AI系统内在的偏见。DarwinAI的总部位于加拿大安大略、迄今披露的融资总额为300万美元,该公司希望用AI来理解深度神经网络算法,然后再产生一系列新的、高度优化的针对特定需求和需要的神经网络。DarwinAI的平台让开发者可以不必花费数周或数月的时间去理解深度神经网络模型,而是由平台基于用户定义需求在数天内产生优化的更小、更简洁的模型,例如在不牺牲功能性准确性的前提下更快的推理等,DarwinAI入选了2019年Gartner的Cool Vendors in Enterprise AI Governance and Ethical Response。Fiddler Labs的总部位于美国加利福尼亚、迄今披露的融资总额为1320万美元,该公司构建可解释AI引擎以帮助企业大规模地分析、管理和部署机器学习模型。Fiddler Labs也入选了2019年Gartner的Cool Vendors in Enterprise AI Governance and Ethical Response,其解决方案包括理解AI预测、分析AI行为、确认AI合规性、监测AI性能等四类。Kyndi的总部位于美国加利福尼亚、迄今披露的融资总额为3160万美元,该公司同样入选了2019年Gartner的Cool Vendors in Enterprise AI Governance and Ethical Response。Kyndi的专利AI技术和AI平台,目前为政府、金融和医药行业提供可解释、可审计的AI解决方案,其AI解决方案主要有医药风险及质量评估、智能流程自动化以及风险评估等。四、基因编辑新纪元