20230529 一名律师使用ChatGPT 进行法律文献检索提交了错误信息

近日，一名律师在法庭案件中使用聊天机器人 ChatGPT 进行法律文献检索，结果提交了错误信息，

揭示了人工智能在法律领域的潜在风险，包括误传错误信息。

该事件引发了法律界对于人工智能工具在法律研究中适当使用的讨论，以及制定全面指导方针以防止类似情况发生的需求。涉案的两名律师将于6月8日出席一个纪律听证会。

创新工场董事长李开复表示，威力强大的大模型将彻底变革人工智能。

未来的大型模型将拥有多模态的功能，同时能够执行任务。AI 2.0 将成为许多人工智能大型挑战的第一推手。不过AI 2.0也会制造虚假信息和被坏人利用。

李开复认为，大型语言模型公司成功的关键要素为算力、算法、数据、生态。他呼吁中国的大模型公司不再依赖于他人的开源模型，应形成自己的竞争壁垒。

科大讯飞董事长刘庆峰在年会上展示了讯飞星火的数学、语言翻译和逻辑推理等能力，并分享了升级迭代的计划。

讯飞星火是具有7大核心能力的认知智能大模型，已在教育、办公、数字员工等多个行业中落地。刘庆峰认为，星火将带来改变当前信息分发模式，实现自然交互等机遇。

在一季度财报电话会上，美团创始人王兴表示坚信AI将改变人们生活的方方面面，并不仅局限于手机或互联网行业。

他还透露，美团内部的团队正在致力于打造自研基础模型及应用程序，将AI功能应用到用户中。王兴表示，多年积累的专有数据可以让美团在能力允许的范围内积极对AI技术进行投资。

财报显示，美团一季度研发支出同比增长至50亿元人民币。

图灵奖得主Bengio最新博文探讨人工智能风险和Rogue AI出现的可能性。强人工智能对话系统的崛起引发各种讨论，对于AI是否会失控、造成灾难性损害存在分歧。

Bengio团队定义了Rogue AI，讨论了可能情况和规避策略。人类水平的智力是有限的，但计算机具备无限能力。

自主性可能产生于设定的目标和奖励，潜在的Rogue AI有可能由于不严格包括人类和生物圈的福祉而造成危害。政策和监管等措施能够降低潜在风险。