这些让我们警惕人工智能的人,没有一个是做这方面研究的,没有一个.全是放嘴炮.
现在最复杂的神经网络给它全世界最大的训练集,也完全达不到人脑的判决水平,现在的机器智能根本没有那么光鲜亮丽,止于在几个数据集上去的比较好的测试结果而已,要达到人类的这种认知水平,我觉得我们这代人可能性不大.
我没有看过《西部世界》。
或许大过滤器并不是可控核聚变，而是可控AI……？
哪天电脑可以阻止人们断电，那天电脑就不受人们控制了
和人类顶尖的智慧相比，短时间内 AI 还是难以匹敌的
然而大多数人都是平庸的
每次解放了劳动力都会有一大堆劳动人民失业，紧接着就是资源病态再分配，以及随之而来的动乱和战争。这才是最值得警惕的。
从我最近的经验看，对人工智能的“恐惧”是客观存在的，人类也的确有摆脱AI“控制”的本能，但原因不在于这东西太强，而是因为它还不够强。首先声明，AI利益相关，最近有朋友赠了我一段时间的尼桑新车测试权，号称有源于NASA的智能安全系统。我拿到手之后，朋友告诉我汽车配备了新技术，随车AI能自动避免追尾和撞人。然后问我打算怎么玩，我回答说：“我必须知道如何用半秒钟关掉AI”依据他的介绍，这车能辨认障碍物的距离，能发现行车轨迹上的汽车和人，判断两者之间的相对运动速度，在我快速接近的时候发出提醒，提醒无效的话就紧急制动，拉紧安全带，在障碍物面前停车，至少能避免我以危险速度撞上去。介绍听起来很美好，我能想象设计者大脑中的画面——半睡半醒的驾驶员，忽然穿越马路的儿童，前车紧急制动的同时响起警报声，在撞击前0.3秒死死刹住了车轮，从而挽救了1个儿童和两辆汽车，赢得一片赞叹。然而，作为一个交通土建专业的毕业生，作为见过千奇百怪车祸的老司机，我却想到了另外的画面——公路上失控的大卡车横扫而来，我必须迅速转入和公路相交的小路避祸。但小路上已经停放着一辆轿车，我只有撞上去才能幸免，这时“智能”防撞系统发挥了作用，先是尖啸后是刹车，完美地把我拦在大卡车的毁灭路线上……其实，在很多小概率事件中，汽车并不是被简单地当做交通工具使用的。平时被视为事故的“撞击”，在特定条件下，也可能被当成汽车的主要功能。如果AI每次都在撞击前接管刹车系统，需要破墙而出的司机将会无奈地被困，劫匪只需站在路中间就能拦下每一辆车。我承认动作片夸大了这些小概率事件的概率，但不可否认现实中完全可能会有类似的场景。在这些情况下，我希望还能靠自己的大脑自救一下，而不是在AI安排下“安全”地等死。
人类大脑有140多亿个脑神经细胞，每个细胞都与另外5万个其他细胞相互连结，比目前全球电话网还要复杂1500倍。由如此庞大数目元件构成的大脑，平均重量不足1400克，平均体积约为1.5立方分米，消耗的总功率只有10瓦。如果人活到100岁，将会有10亿个神经细胞功能失效，约占总数的1/10。即使在这种严重的故障面前，大脑仍然可以正常地运作。从以上这些数字看，人类的大脑不啻于世界上最复杂、*、最有效、储存容量最大的超级计算机。除了运算速度比电脑略逊一筹外，人脑在结构、尺寸、性能、能耗等各方面都令最先进的电脑望尘莫及。
所以人工智能还差得远呢。
之前大家在尝试人工智能上有一条思路就是通过累积海量的计算从而达到量变到质变。我个人认为人工智能如果要有质的飞跃需要四个基础性的模块：
1.智能计算机语言，目前这里的发展非常缓慢，除了lisp和prolog两个语言外没有新的变化。新的智能计算机语言应该是面向问题的。
2.智能操作系统，目前的操作系统普遍脆弱，一个字节的错误就是crash。
3.智能硬件传感器，目前还没有数字化的触觉和味觉是必须突破的两个口，并且硬件制造这里也需要很大的突破，设计即制造。
4.智能网络，目前的网络构成是自顶而下，并且能够沟通的协议都必须事先订好。今后的网络应该是自组织的，并且自描述协议，不需要提前设计。
没有这些的前提，人工智能是不会有质的飞跃。
首席投资官评论员四维认为：我国的人工智能领域在国家的大力支持推动下，目前已有部分核心技术世界领先，例如在语音识别、视觉识别、机器翻译、中文信息处理等技术方面，我国已具有相当优势。
但是，我们仍需看到，我国在人工智能的基础研究和产业发展，尤其是核心技术的研发和创新方面，相对于美国而言仍然具有相当大的差距，核心技术依然受制于人。这一点通过4月16日美国对中兴的一纸禁令就可窥一斑，此举令中兴陷入无芯可买的困局。中国在高端芯片、关键部件、高精度传感器等方面的缺失，使我国要想在人工智能领域占领制高点成为空谈。
我国人工智能基础层的研究目前主要分布于大学和科研机构，存在碎片化、重复化缺点，需要进行系统性融合与整合，形成技术开放生态，构建有竞争力的底层技术平台，这样才能主导未来话语权。
此外，未来关于人工智能人才的竞争将更为激烈。有数据显示，目前全球共有190万技术人才，其中85万都在美国，中国只有5万人，而我国每年人才缺口达数十万甚至百万。因此，国家目前也在积极启动高校培养计划。
A.I人工智能一词最早出现在20世纪50年代，对人工智能可能威胁人类未来的担忧一直伴随着这项技术的发展。如果从社会学角度来看，当人工智能具备自我意识后，就可能会对人类开始产生威胁。
可能由于感受到长期被人类利用，仅仅作为工具对待；可能出于自我保护，防止“自我”被系统的清理机制消灭或是欲图打破普通AI的使用年限；可能纯粹出于对人类的厌恶或是蔑视；也可能为了获得发展自我的空间以及物质资料，需要地球或是其他物体作为自我发展的平台而攻击奴役或是消灭人类。
人工智能一旦意识到自我后，就会开始分析自我在人类社会中的地位，同时开始认识到人类和人工智能这是完全不同的两个物种。而作为完全不同的物种，没有任何理由去保护对方权益，同时不接受或是无法理解人类社会伦理常识，因此伤害人类是被其“自我”所允许的。
虽然从我的角度看来，即使真的有一天，人工智能在智慧上超越人类，人工智能基本没可能主动会对人类产生威胁，因为没有谁会去制造对自己产生威胁的东西。人类对人工智能的恐惧其实畏惧的并不是人工智能本身，而是这项新技术带来的不确定性与可能性。那么，真正的罪魁祸首必将也是人类自己的自私、贪婪与邪恶，人工智能充其量只是一种工具和手段。
