|簡體中文

比思論壇

 找回密碼
 按這成為會員
搜索



查看: 274|回復: 0
打印 上一主題 下一主題

霍金预言人工智能堪比第三次世界大战

[複製鏈接]

1130

主題

1

好友

3602

積分

大學生

Rank: 6Rank: 6

  • TA的每日心情
    奮斗
    1 小時前
  • 簽到天數: 177 天

    [LV.7]常住居民III

    推廣值
    0
    貢獻值
    0
    金錢
    24
    威望
    3602
    主題
    1130
    跳轉到指定樓層
    樓主
    發表於 2024-6-26 11:08:30 |只看該作者 |倒序瀏覽
    ChatGPT绝对是近期媒体报道热点中的热点。生命未来研究所(Future of Life Institute)日前在他们的网站上贴出了一封“公开信”,一石激起千层浪。
    “公开信”呼吁“所有人工智能实验室至少暂停6个月比ChatGPT-4更强大的人工智能系统的训练”,说法这么具体,体现了人类对于ChatGPT发展速度带来的挑战的深深担忧。人类对于自己开发的ChatGPT,不能接受伤到自己的巨大可能。人类需要停顿一下,给自己一点时间进行思考,找到有效对策。
    ChatGPT底层的学习方式是“单字接龙”原理,即只允许用上文预测下一个字。ChatGPT把机器学习中的极端训练模式都用到了。直到ChatGPT3.5,先后经历了这三阶段,即无监督学习的“开卷有益”、有监督学习“模板规范”、强化学习的“创意引导”。通过这三个阶段的训练后得到“大语言模型”(Large Language Model,LLM),能够对海量互联网信息,文本、语音、图片进行学习,扩充模型的词汇量,语言表达,世界的信息与知识,最终形成“单字接龙”。
    ChatGPT的核心模型结构,在2017年有了“开卷有益”;到2020年,又从“模板规范”到“创意引导”,技术模型的发展离不开从古至今,科研乃至各行业人员的成果信息之不断积累于互联网,将信息进行归纳总结和学习,得出回答。
    ChatGPT能够将语言符号和指代对象关联起来,并与现实对应起来,这方面具有重大的里程碑意义。它让人类都看到了LLM的可行性、革命性。所以真正对人类社会带来冲击的,不是ChatGPT本身,而是它身后的改变社会发展方向的推动力。
    自然语言处理(Natural Language Processing,NLP)技术也被誉为人工智能“皇冠上的明珠”。NLP是LLM的一种,它优势突出,可以不间断处理海量语言内容,处理速度快、效率高。ChatGPT的NLP是LLM中的佼佼者。LLM将变得更好用、更快速、更便宜。可以预测,相关产品也会如雨后春笋般普及。
    大语言模型对社会的影响范围将和当初电脑的影响范围一样,即全社会。美国前国务卿基辛格认为这项技术的进步将带来新的认知革命,将重新定义人类知识,将加速我们现实结构的改变,并将重组政治和社会。
    人类能通过群体协作创造知识、继承知识、运用知识。这三个环节,全都是依靠语言来实现。LLM的发明,允许人类将“海量”个体所获得的认识及载体统筹起来,在极短时间“掌握”过去与未来,能带来很多行业生产效率的大幅提升。
    然而,ChatGPT也可能会威胁到全人类。ChatGPT操纵控制用户的能力会逐渐加强。欧洲警察组织警告说,像ChatGPT这样的LLM是危险的,因为它们使犯罪分子更容易采取行动。外媒还表示,ChatGPT可以用来了解大量了不解的潜在犯罪领域,从如何闯入住宅,到恐怖主义、网络犯罪和儿童性虐待方面均存在极大风险。欧洲刑警组织指出,ChatGPT可能被滥用来产生虚假的社交媒体,成为犯罪分子和大规模犯罪工具。美国哲学教授(Aumann)发现,学生提交的论文是由ChatGPT写的,因为论文的语法等各方面“过于”完美,而且论文是群体性的。
    ChatGPT的“大语言模型”通过互联网掌握一个人几辈子都没法读完资料,会随意联想,有能力回答各种问题,但我们却很难指挥它,这是人类担心的关键所在。
    霍金警告过,“人工智能(Artifical Intelligence,AI)将堪比第三次世界大战”。AI能控制接入全球互联网,能把世界上每一寸士地都通过卫星摄像头监控到,然后当他的算力足够强大的时候可以精确计算到每个人。GPT-5完成后,即将读取全人类的知识报道,训练视频数高达20亿GB,ChatGPT进化速度过快了。对一个算力发达,甚至可以想像到无限的当代,有网友假设了地球已经变成“乒乓球”,被“攥在”在恐怖分子的“手心”里。“恐怖分子利用AI,通过ChatGPT下达了一个消灭全人类的指令”。人类需要6个月的短暂时间思考,并找到切实有效的措施,防止ChatGPT被坏人利用。
    您需要登錄後才可以回帖 登錄 | 按這成為會員

    重要聲明:本論壇是以即時上載留言的方式運作,比思論壇對所有留言的真實性、完整性及立場等,不負任何法律責任。而一切留言之言論只代表留言者個人意見,並非本網站之立場,讀者及用戶不應信賴內容,並應自行判斷內容之真實性。於有關情形下,讀者及用戶應尋求專業意見(如涉及醫療、法律或投資等問題)。 由於本論壇受到「即時上載留言」運作方式所規限,故不能完全監察所有留言,若讀者及用戶發現有留言出現問題,請聯絡我們比思論壇有權刪除任何留言及拒絕任何人士上載留言 (刪除前或不會作事先警告及通知 ),同時亦有不刪除留言的權利,如有任何爭議,管理員擁有最終的詮釋權。用戶切勿撰寫粗言穢語、誹謗、渲染色情暴力或人身攻擊的言論,敬請自律。本網站保留一切法律權利。

    手機版| 廣告聯繫

    GMT+8, 2024-11-5 11:49 , Processed in 0.011585 second(s), 16 queries , Gzip On, Memcache On.

    Powered by Discuz! X2.5

    © 2001-2012 Comsenz Inc.

    回頂部