高管们在世界生态大会上告诉CNBC,区块链可以用来检查人工智能模型正在接受培训的数据,以避免偏见等问题出席达沃斯经济论坛。
其中一个围绕人工智能模型(支撑ChatGPT等应用程序的那种模型)的担忧是,它们所训练的数据可能会出错保留偏见或错误信息。
人工智能训练数据可以放在区块链上。高管们补充说,这将使人工智能系统的开发人员能够跟踪模型所接受的训练数据,以减轻这些危险。
瑞士达沃斯——区块链可以用来防止人工智能模型正在接受训练的数据中的偏见——这可能是该技术的“杀手级用例”,高管们告诉CNBC。
对人工智能模型的担忧之一是,它们所训练的数据可能包含偏见或错误信息。人工智能模型是ChatGPT等应用程序的基础。这意味着人工智能系统给出的答案可能包含这些偏见和错误信息。
2009年,随着加密货币比特币的推出,区块链进入了市场。在比特币的背景下,这项技术是一种不可变的、防篡改的公共交易分类账。企业一直在寻求将这些原则应用于区块链的其他应用中,区块链有时被称为分布式账本技术。
以人工智能为例,训练数据可以放在区块链上。这将使人工智能系统的开发人员能够跟踪模型所训练的数据。
Casper Labs是一家专注于商业的区块链公司,本月与IBM合作创建了这样一个系统。
Casper Labs首席技术官兼联合创始人Medha Parlika在本周达沃斯世界经济论坛的小组讨论中告诉CNBC:“我们正在开发的产品,数据集实际上是被检查点并存储在区块链上的,这样你就可以证明人工智能是如何训练的。”
“所以当你使用人工智能时,如果它正在学习,你发现它开始产生幻觉,你实际上可以让它倒退。所以你可以取消一些学习,回到以前的人工智能版本。”
幻觉广义上指的是人工智能系统给出的错误信息。
区块链是一项已经被谈论多年的技术,从金融到医疗保健等许多行业都在寻找使用它的方法。
然而,加密创新委员会(Crypto Council for Innovation)首席执行官希拉·沃伦(Sheila Warren)表示,基于区块链的人工智能训练数据分类账可能是该技术的“杀手级用例”。
“实际上,我确实认为人工智能的验证和某种制衡……在人工智能系统中,将由区块链驱动和区块链支持,”沃伦在小组讨论期间告诉CNBC。