{"code":20000,"message":"OK","data":{"asset_tags":null,"audio":{"title":""},"audio_info":{"uri":"https://wpimg-wscn.awtmt.com/56bd5e51-37df-4ad9-821f-79b54acf2f2b.mp3","start_time":"0.000000","duration":"538.596000","size":"1615833"},"audio_uri":"https://wpimg-wscn.awtmt.com/56bd5e51-37df-4ad9-821f-79b54acf2f2b.mp3","author":{"article_count":521,"author_kind":"default","avatar":"https://wpimg-wscn.awtmt.com/801d1454-4b80-463f-98e9-3263eaeeb6cd","bio":"  ","display_name":"陈晨","editor_choice_articles":[],"followers_count":760,"id":120000004477,"is_followed":false,"uri":"https://wallstreetcn.com/authors/120000004477"},"categories":[{"key":"crawler","name":"外部爬取"},{"key":"internal","name":"屏蔽外部"},{"key":"global","name":"见闻首页"},{"key":"technology","name":"科技"},{"key":"wscn-platform","name":"见闻"},{"key":"tech-platform","name":""}],"columns":[],"comment_count":5,"comment_disabled":false,"content":"\u003cp\u003e在美国近来的一起诉讼案件中，一位律师帮原告打官司，引用了ChatGPT捏造的6个不存在的案例。\u003c/p\u003e\n\u003cp\u003e法官当庭指出，律师的辩护状是一个彻头彻尾的谎言，简直离了大谱。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTYxNzUxNzEwMQ==\" data-wscntype=\"image\" data-wscnh=\"556\" data-wscnw=\"884\" /\u003e\u003c/p\u003e\n\u003cp\u003e然而，律师为自己辩护中，甚至提交了和ChatGPT聊天截图的证据。\u003c/p\u003e\n\u003cp\u003e显然，ChatGPT称「这些案例都是真实存在的」。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTY3MjgwNjY5Nw==\" data-wscntype=\"image\" data-wscnh=\"420\" data-wscnw=\"440\" /\u003e\u003c/p\u003e\n\u003cp\u003e本为原告打的官司，自己竟惹祸上身，将受到制裁，这波操作瞬间在网上引起轩然大波。\u003c/p\u003e\n\u003cp\u003e毕竟，GPT-4刚诞生时，OpenAI放出它在律师资格考试（UBE）的成绩，还拿到了90分。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MTU3NzgxNDc1MA==\" data-wscntype=\"image\" data-wscnh=\"318\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e网友警告，千万不要用ChatGPT进行法律研究！！！\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTYzOTc2NzQ3Nw==\" data-wscntype=\"image\" data-wscnh=\"304\" data-wscnw=\"956\" /\u003e\u003c/p\u003e\n\u003cp\u003e还有人戏称，要怪就怪你的prompt不行。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MTY1NDk3MDc3MA==\" data-wscntype=\"image\" data-wscnh=\"152\" data-wscnw=\"708\" /\u003e\u003c/p\u003e\n\u003ch2\u003e律师承认使用ChatGPT\u003c/h2\u003e\n\u003cp\u003e这起诉讼的起始和其他许多案件一样。\u003c/p\u003e\n\u003cp\u003e一位名叫Roberto Mata的男子在飞往纽约肯尼迪国际机场的航班上，不幸被一辆餐车撞到膝盖，导致受伤。\u003c/p\u003e\n\u003cp\u003e由此，他便要起诉这架航班的「哥伦比亚航空公司」（Avianca）。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTgzODYyNA==\" data-wscntype=\"image\" data-wscnh=\"683\" data-wscnw=\"1024\" /\u003e\u003c/p\u003e\n\u003cp\u003eMata聘请了Levidow，Levidow \u0026amp; Oberman律所的一位律师来替自己打这个官司。\u003c/p\u003e\n\u003cp\u003e接手案子后，律师Steven A. Schwartz向法院提交了一份10页的辩护状。其中，引用了6个相关的法院判决：\u003c/p\u003e\n\u003cp\u003eVarghese V. 中国南方航空公司\u003c/p\u003e\n\u003cp\u003eShaboon V. 埃及航空公司\u003c/p\u003e\n\u003cp\u003ePetersen V. 伊朗航空公司\u003c/p\u003e\n\u003cp\u003eMartinez 达美航空公司\u003c/p\u003e\n\u003cp\u003eEstate of Durden V. 荷兰皇家航空公司\u003c/p\u003e\n\u003cp\u003eMiller V. 美国联合航空公司\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/NzQzMzM4OTQ4\" data-wscntype=\"image\" data-wscnh=\"399\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e原文件：\u003c/p\u003e\n\u003cp\u003ehttps://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1.pdf\u003c/p\u003e\n\u003cp\u003e然而，让所有人震惊的是，从案件本身，到司法判决，再到内部引文，全是假的！\u003c/p\u003e\n\u003cp\u003e为什么假？因为是ChatGPT生成的。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/NzY0MjUyMjU3\" data-wscntype=\"image\" data-wscnh=\"223\" data-wscnw=\"226\" /\u003e\u003c/p\u003e\n\u003cp\u003e这不，麻烦就来了。\u003c/p\u003e\n\u003cp\u003e目前，对方律师考虑举行听证会，对原告律师进行制裁。\u003c/p\u003e\n\u003cp\u003eSchwartz律师，可以说已经非常资深，在纽约从事法律工作已有30年。\u003c/p\u003e\n\u003cp\u003e从他的话中得知，自己吃了大亏，竟是从来没用过ChatGPT，由此没有意识到它生成的内容是假的。说来，还是太离谱\u003c/p\u003e\n\u003cp\u003e原告律师Steven A. Schwartz在一份宣誓书中承认，他确实用了ChatGPT进行相关研究。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MzU0MTgxMTE5\" data-wscntype=\"image\" data-wscnh=\"489\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e为了验证这些案件的真实性，他做了唯一一件合理的事：让ChatGPT验证这些案件的真实性。\u003c/p\u003e\n\u003cp\u003e他告诉法官，「自己无意欺骗法庭或航空公司」。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTE1MzM0MjM3NQ==\" data-wscntype=\"image\" data-wscnh=\"606\" data-wscnw=\"1080\" /\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MjA2MDU2OTI1OQ==\" data-wscntype=\"image\" data-wscnh=\"708\" data-wscnw=\"1032\" /\u003e\u003c/p\u003e\n\u003cp\u003e当他询问ChatGPT这些案件的来源时，ChatGPT先是为之前的表述不清道歉，但还是坚称这些案件都是真实的，可以在Westlaw和LexisNexis上找到。\u003c/p\u003e\n\u003cp\u003e而对方律师也同样坚持，来自Levidow \u0026amp; Oberman律师事务所的原告律师是多么荒唐可笑，由此才引发了法庭对这个细节的重视。\u003c/p\u003e\n\u003cp\u003e在其中一个案例中，有个叫Varghese的人起诉中国南方航空有限公司。然而这件事压根不存在。\u003c/p\u003e\n\u003cp\u003eChatGPT好像引用了另一个案件——Zicherman起诉大韩航空有限公司。而ChatGPT把日期、案件细节什么的都搞错了。\u003c/p\u003e\n\u003cp\u003eSchwartz此时才悔恨地表示，他没有意识到ChatGPT可能提供假案件，现在他非常后悔用生成式AI来进行法律研究。\u003c/p\u003e\n\u003cp\u003e法官表示，这种情况前所未见，并将于6月8日举行听证会，讨论可能的制裁措施。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/NzA1MTkzNDI5\" data-wscntype=\"image\" data-wscnh=\"540\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e这件事情再次体现了一个很重要的事实，那就是用完ChatGPT必须用其它来源进行双重，甚至三重查证。\u003c/p\u003e\n\u003cp\u003e而AI模型在信息输入上出现重大事实错误已经不是第一次了，谷歌的Bard也遇到过这种问题。\u003c/p\u003e\n\u003ch2\u003e90分？GPT-4成绩被夸大\u003c/h2\u003e\n\u003cp\u003e还记得GPT-4刚刚发布那天，「小镇做题家」在各项考试指标上接近满分的水平。\u003c/p\u003e\n\u003cp\u003e尤其，在美国统一律师资格考试（UBE）中，GPT-4可以拿到90%水平，而ChatGPT（GPT-3.5）也仅拿到10%的分数。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTExNDY5ODI4NDE=\" data-wscntype=\"image\" data-wscnh=\"108\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e但是，没过多久，来自MIT的研究人员Eric Martínez发了一篇论文，重新评估了GPT-4在Bar考试中的表现。\u003c/p\u003e\n\u003cblockquote\u003e\n\u003cp\u003e论文直言，GPT-4的律师考试成绩被夸大了。\u003c/p\u003e\n\u003c/blockquote\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTE4NDE3NzkyMDM=\" data-wscntype=\"image\" data-wscnh=\"276\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e论文地址：https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4441311\u003c/p\u003e\n\u003cp\u003e作者在文中提出了4组发现，表明OpenAI对GPT-4在UBE的表现，尽管明显比GPT-3.5有令人印象深刻的飞跃，但似乎过于夸大。\u003c/p\u003e\n\u003cp\u003e特别是，如果被当作代表「百分位数下限范围」的保守估计。更不用说，意在反映一位执业律师的实际能力了。\u003c/p\u003e\n\u003cp\u003e首先，GPT-4的律师考试成绩，是与2月份伊利诺伊州律师考试的应试者相比较的。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTIzNjA3MTM2NA==\" data-wscntype=\"image\" data-wscnh=\"193\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e值得注意的是，这些考生都是复读生，不难理解，他们的分数可能会更差。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTE3NjE4NzM5MTE=\" data-wscntype=\"image\" data-wscnh=\"357\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e其次，最近一次七月份考试的数据表明，GPT-4的UBE成绩为68%。\u003c/p\u003e\n\u003cp\u003e第三，通过检查官方NCBE数据，并使用若干保守的统计假设，估计GPT-4在所有首次考试中实现63%。\u003c/p\u003e\n\u003cp\u003e最后，当只考虑那些通过考试的人（即已获得许可或待许可的律师）时，预计GPT-4的表现将下降到48%。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTE0NTg3OTAyNTA=\" data-wscntype=\"image\" data-wscnh=\"321\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e网友称，更准确来说，GPT-4应该只有63分，或者68分。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MjA3NDQxMjE3OQ==\" data-wscntype=\"image\" data-wscnh=\"210\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e文中，作者还提供了深刻的见解，探讨了将法律任务外包给AI模型的可取性和可行性。\u003c/p\u003e\n\u003cp\u003e甚至，人工智能开发人员实施严格和透明的能力评估，以帮助确保安全和可靠的人工智能的重要性。\u003c/p\u003e\n\u003cp\u003e要是，原告的那位律师看过这项研究后，说不定就不会吃大亏了。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MTU1NzAxNzkzMg==\" data-wscntype=\"image\" data-wscnh=\"402\" data-wscnw=\"400\" /\u003e\u003c/p\u003e\n\u003ch2\u003eChatGPT胡说八道\u003c/h2\u003e\n\u003cp\u003e归根结底，ChatGPT能够编造出6个不在的案例，还是因为它固有的「幻觉」问题。\u003c/p\u003e\n\u003cp\u003e直白来讲，就是张口胡说八道的天性所致。\u003c/p\u003e\n\u003cp\u003e就连马斯克都想拯救这个致命的问题，官宣推出了名为TruthGPT的AI平台。\u003c/p\u003e\n\u003cp\u003e马斯克曾表示，TruthGPT将是一个「最大的求真人工智能」，它将试图理解宇宙的本质。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/Njc0ODkyMTgx\" data-wscntype=\"image\" data-wscnh=\"192\" data-wscnw=\"614\" /\u003e\u003c/p\u003e\n\u003cp\u003e然而，别管什么GPT，幻觉很难搞定。\u003c/p\u003e\n\u003cp\u003e前段时间，OpenAI联合创始人兼研究员John Schulman在演讲「RL and Truthfulness – Towards TruthGPT」中，讨论了幻觉产生的原因以及解决方案。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MjU4NzY5MTA4\" data-wscntype=\"image\" data-wscnh=\"500\" data-wscnw=\"750\" /\u003e\u003c/p\u003e\n\u003cp\u003e根据Schulman的说法，幻觉大致可以分为两种类型：\u003c/p\u003e\n\u003cp\u003e1 模式完成行为，即语言模型无法表达自己的不确定性，无法质疑提示中的前提，或者继续之前犯的错误\u003c/p\u003e\n\u003cp\u003e2 模型猜测错误\u003c/p\u003e\n\u003cp\u003e语言模型代表一种知识图谱，该图谱将训练数据中的事实存储在自己的网络中。而微调可以理解为「学习一个函数」，能够在知识图谱上操作并输出token预测。\u003c/p\u003e\n\u003cp\u003e比如，微调数据集中，如果有包含「星球大战是什么片？」这个问题，以及「科幻」这个答案。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTEwOTczNTcxMDI=\" data-wscntype=\"image\" data-wscnh=\"648\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e要是这一信息在原始训练数据中存在，那么模型就不会学习新信息，而是学习一种行为——输出答案。而这种微调也被称为「行为克隆」。\u003c/p\u003e\n\u003cp\u003e如果「星球大战是什么片？」这一问题的答案不是原始训练数据的一部分。即便不知道，模型也会学习正确答案。\u003c/p\u003e\n\u003cp\u003e但问题是，使用这些不在知识图谱中的答案进行微调，就会让模型学会编造答案，即产生所谓的「幻觉」。\u003c/p\u003e\n\u003cp\u003e相反，要是用不正确的答案去训练模型，就会导致模型知识网络隐瞒信息。\u003c/p\u003e\n\u003ch2\u003e网友热评\u003c/h2\u003e\n\u003cp\u003e此事一出，各位网友也是各抒己见。\u003c/p\u003e\n\u003cp\u003eKim表示，不光是ChatGPT，其实人类也爱用想象来弥补知识盲区。只不过ChatGPT能装的更逼真。关键在于，要搞清楚ChatGPT知道什么、不知道什么。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/OTI5ODMyODkz\" data-wscntype=\"image\" data-wscnh=\"247\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003eZero提出了一个很有建设性的提议，那就是：以后ChatGPT再举事例，后面得附上来源链接。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTc4MzE0OTMzNA==\" data-wscntype=\"image\" data-wscnh=\"217\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003eFrancis表示，早说过了，ChatGPT是一种生成式人工智能。意味着它会根据输入的问题生成回答。无论它有多能模仿人类在理解问题后的精彩回答，也改变不了ChatGPT本身并不理解这个问题的事实。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/MTE3NDIwMjEy\" data-wscntype=\"image\" data-wscnh=\"212\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003eTricorn认为，这位原告律师不应该把锅扔给ChatGPT，是他自己用错了。应该是把事例当作prompt的一部分输入进去，然后让ChatGPT填补中间缺环的论证部分。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/NzA1NzI1MjYz\" data-wscntype=\"image\" data-wscnh=\"177\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e还有网友称，用ChatGPT要上点心，要不下一个超级碗就是你了。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTE1NzQ5Mzc0NjI=\" data-wscntype=\"image\" data-wscnh=\"254\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e这就是活灵活现的证据。ChatGPT等人工智能工具做人类的工作，真的是可能直接导致我们的大灾难。\u003c/p\u003e\n\u003cp\u003e\u003cimg class=\"wscnph\" src=\"https://bang.xuangubao.cn/LTEwNjMxNDk4MTc=\" data-wscntype=\"image\" data-wscnh=\"140\" data-wscnw=\"1080\" /\u003e\u003c/p\u003e\n\u003cp\u003e对于ChatGPT这个表现，你怎么看？\u003c/p\u003e\n\u003cp\u003e参考资料：\u003c/p\u003e\n\u003cp\u003ehttps://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research\u003c/p\u003e\n\u003cp\u003ehttps://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.htm\u003c/p\u003e\n\u003cp style=\"color: #8d9bad;\"\u003e本文来源：\u003ca href=\"http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==\u0026amp;mid=2652334335\u0026amp;idx=1\u0026amp;sn=cf90aac1f60aea70e517cecb3c0427fe\u0026amp;chksm=f1241c0ec653951857d460a7c85e3c7d1bac31ad37763f2f4323b492a36d81a7c220bb9209a0\u0026amp;scene=126\u0026amp;sessionid=1685249536\" target=\"_blank\" rel=\"noopener\"\u003e新智元\u003c/a\u003e，作者：桃子 拉燕，原标题：《GPT-4考90分全假！30年资深律师用ChatGPT打官司，6个虚假案例成笑柄》\u003c/p\u003e\u003cdiv style=\"color: #666; margin-bottom: 15px;\"\u003e风险提示及免责条款\u003c/div\u003e\n          \u003cdiv style=\"font-size: 12px;font-family: 黑体;color: #666;line-height: 20px;\"\u003e\n            市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。\n          \u003c/div\u003e\n","content_short":"ChatGPT又有什么错呢？美国律师向法院提交的文件中，竟引用了6个根本不存在的案例，反倒惹祸上身被制裁。","custom_tag":"","display_time":1685249800,"funds":null,"has_transfer_audio":true,"id":3689781,"image":{"uri":"https://wpimg-wscn.awtmt.com/62098196-4097-47cf-81fa-16cdb910dde4.jpeg","height":535,"width":700,"size":29249},"images":[{"uri":"https://wpimg-wscn.awtmt.com/content_default_1.jpg","height":1364,"width":2048,"size":2186222}],"influence_score":0,"is_need_pay":false,"is_priced":false,"is_trial":false,"is_video":false,"layout":"wscn-layout","limited_time":0,"membership_uri":"","next":{"id":3689780,"image":{"uri":"https://wpimg-wscn.awtmt.com/362de55b-b12c-46eb-9cf4-ab68ab2a2e98.jpeg","height":594,"width":586,"size":196739},"title":"当前哪些细分赛道处于“0-1”关键阶段？","url":"https://wallstreetcn.com/articles/3689780"},"pageviews":17523,"plates":[],"previous":{"id":3610867,"image":{"uri":"https://wpimg-wscn.awtmt.com/3f6da7af-c869-487b-b389-aa786afddcbc.jpg","height":600,"width":800,"size":266601},"title":"3.2 经典案例复盘：2010年10月：行情突变点的规律（2）行情爆发，增量资金并非必要","url":"https://wallstreetcn.com/premium/articles/3610867?layout=wscn-layout"},"related_topics":[],"show_like":true,"source_name":"新智元","source_uri":"","subtitle":"","tags":[],"theme_group_map":null,"themes":[],"title":"GPT-4考90分全假！30年资深律师用ChatGPT打官司，6个虚假案例成笑柄","unshow_content_short":false,"words_count":2307}}