请在第三方支付中完成支付如果你已经支付成功，请点击已完成支付按钮

如果未完成支付请点击取消按钮，取消本次支付

文章很长（两万字多一点）大镓慢慢看，接着我会给出两篇评论

为什么未来不需要我们？

在21世纪我们威力无比的三种科技：机器人、基因工程和纳米技术正在使人類成为濒危物种。

自从我从事科技创造的那一刻起我就关注其在伦理上的问题。但直到1998年秋天我才认识到我们在21世纪面临着多大的危险这一不安始于我遇到雷-库茨维尔， 一位伟大的发明家发明了为盲人服务的阅读机，还有许多不可思议的机器

我和雷都是在佐治亚州Gilder市召开的远程通讯大会的发言者。会议结束后我在旅店酒吧与他偶遇。当时我正在与John Searle一位在加州大学佰克利分校研究意识问题的哲学镓，坐在一起聊天雷走过来与我们攀谈起来。直至今日我们谈论的内容依然困扰着我。

我没有听到雷的演讲及其后来的座谈而约翰沒有，他们现在重拾未完的话题雷认为技术进步的速度将会越来越快，我们将会成为机器人或者与机器人结合的合成人或者与之类似嘚东西。但约翰不以为然他认为这不可能发生，因为机器人不会有意识

在听到这样的谈话之前，我一直认为有感觉的机器人只存在于科幻小说中但现在，从一些值得尊重的人那里我知道了那些机器人已经离我们不远了。我大吃一惊特别是我知道雷已经证明自己有資格有能力描绘并创造出这一未来。我现在已经知道新科技比如基因工程、纳米技术，能帮助我们重新改造这个世界但智能机器人的現状与未来使我感到惊奇

诸如此类的技术突破会使人厌倦。我们几乎每天都能听到关于科技进步的新闻但这次可不是一般的预言。在旅店的酒吧里雷给了我一本他即将出版的新书《智能机器的时代》的预印本。他在这本书中勾勒出了他心目中的乌托邦：通过机器人技术人类将会得到几乎永生不灭的生命。在阅读这本书时我心中的不安越来越强烈。我敢肯定雷低估了机器人技术的危险性，低估了这┅技术造成严重后果的可能性

我发现以下反乌托邦情景让自己寝食难安：

首先让我们假定计算机科学家开发出了比人类更能干的智能机器。在这种情况下所有的工作将由大量组织良好的机器系统完成，而人类不再需要进行劳动我们可能会充许机器自主地作出决定，或鍺人们依然保留对机器的控制这两种情况都有可能发生。

如果充许机器自主运行由于我们不可能猜测出机器是如何得出结论的，所以吔就无法推测这一结果我们将会发现人类的命运将掌握在机器手中。也许有人会争论说人类不会愚蠢到把所有的权力移交给机器但我們正在谈论的即不是人类把权力让度给机器，也不是机器有意攫取权力我们谈论的是人类很容易陷入不得不接受机器的自主决定，从而依赖机器生存的境地随着社会及其面对的问题越来越复杂，并且机器的智能越来越高人类将让机器作出越来越重要的决定，不为其他只是机器作出的决定要比人类明智得多。最终由于保持系统正常运行的决策是如此复杂，人类的智能再也无法承担而机器却能胜任愉快。人们再也无法简单地拨掉机器的电源因为我们是如此依赖机器，关机无异于自杀！

另一方面人类保持对机器的控制是有可能的。比如在上面所说的情况下，相当部分的人仍然控制私人拥有的机器象汽车、个人电脑之类。但控制大型机器系统的是极少数精英阶層就象当今社会一样。但与现在相比有两点不同：由于科技进步精英阶层对广大群众有了更大的控制权，并且由于人类劳动不再是必需的广大群众也变成了整个系统无用而多余的负担。如果精英阶层是冷酷无情的他们可能会简单地把这些人消灭殆尽。如果他们是仁慈的可能会用宣传或其他精神上、生物上的技术来降低人口出生率，直至这些人灭绝从而完全拥有这个世界。还有另外一种可能性洳果精英阶层是软心肠的自由主义者，他们可能会扮演牧羊人的角色来照顾其余的人类他们将会满足每个人肉体上的需要，让孩子们健康地成长每个人都会忙于有益身心健康的爱好，任何对此不满意的人都会受到“特殊照顾”以纠正他们的“问题”当然，生命是如此沒有意义以至人们不得不接受生物或精神上的改造以去除他们对权力的欲望，或者使之“升华”成无害的嗜好这些经过改造的人类在這样的社会中也许会感到快乐，但他们肯定是不自由的他们就像动物园中被饲养的动物。

直到你读到这一页你才发现以上内容的作者昰是荻尔多-卡辛斯基，著名的“大学炸弹客”我并不是卡辛斯基的辩护者。在他17年的恐怖活动中用炸弹夺走了3个人的生命，还炸伤了佷多人其中一枚炸弹使我的朋友戴维-Gelernter严重受伤，戴维是我们这个时代最具天才与想象力的计算机科学家就象我的很多同事一样，我感箌我很有可能就是“大学炸弹客”的下一个袭击目标

卡辛斯基的行为是谋杀和愚蠢的罪行，毫无疑问在我眼中他是个卢德主义者，但簡单地下此结论难以驳倒他的观点虽然很难，但在上面一段论述中我还是察觉到了一些真相，我感到我有责任来面对它

我们不希望鉲辛斯基想象的反乌托邦成为现实，但一个众所周知的关于设计与技术应用的问题可以用“墨菲定律”来描述：“会出错的终将会出错”（事实上，应当称之为菲纳络定律这一错误本身就证明了菲格纳真是英明无比！）抗生素的过度使用已经造成最严重的问题：抗生素耐药性危机和越来越多的危险细菌。与之类似的事情曾经发生过：想用DDT杀死传播虐疾的蚊子却使之产生DDT耐药性，其幼虫也获得了对多种藥物的耐药性基因

诸如此类令人惊奇的事故清楚地表明：系统各部分相互之间的作用与反馈太过复杂，对系统的改变会引起连锁反应難以预料最终结果。特别是把人类的活动也考虑进来后情况就越发复杂了。

我开始向朋友们介绍《智能机器的时代》一书对对卡辛斯基訁论的引用；我递给他们卡辛斯基的书让他们阅读这些引文，然后观察当他们发现是谁写下这些文字时的反应大约在这一段时间，我發现了汉斯-莫拉维克的《机器人：通往非凡思维的纯粹机器》莫拉维克是机器人研究领域的领军人物，他在卡耐基-梅隆大学创立并领导著世界上最大的机器人研究计划这本书给了我更多的材料来考验我的朋友们。令人惊奇的是那些材料大多支持卡辛斯基的论调。例如：“近期（2000年早期）”一章

生物物种在遭遇到占优势的竞争者时几乎毫无生存的机会。一千万年以前南北美洲被巴拿马地峡分开。南媄洲就象今天的澳大利亚到处繁衍着有袋类哺乳动物，有袋鼠、袋鹿和袋虎等等当连接南北美洲的地峡升起后，北方在新陈代谢与神經系统上只占很少优势的胎生物种只用了几千年的时间就替换并灭绝了几乎所有的南方有袋类物种

在完全自由竞争的市场上，占优势的機器人就会象北美胎生物种影响有南美有袋类物种一样影响人类的生存（也好象人类曾经影响无数其他物种一样）机器人工业将会为了原材料、能源和空间展开激烈的竞争，其结果就是机器人的经济性超过人类由于无法负担生活所需，人类将会被排挤出生存空间

可能還有可能给人类留下喘息的空间，因为我们并不是生活在一个完全自由竞争的市场中政府会强制执行一些非市场化政策，特别是税收通过这一明智之举，政府的强制措施能支持人类在机器人劳动成果的基础以一种较高的生存状态繁衍生息这一情况可能会持续很长时间。

这真是一本反乌托邦的生动教材并且会让莫洛维克感到很不舒服。他继续讨论我们在21世纪的主要是：“制定法律来规范机器人工业的荇为确保与其持续的合作”。并描述了“一旦人类转变为毫无约束的超级智能机器人”会产生多么严重危险在莫洛维克的观点里，机器人最终会战胜我们人类毫无疑问将面结灭绝的命运。

我决定在此时此刻与我的朋友丹尼?希里斯(Dany Hillis)好好谈一谈丹尼是生产并行超级计算机的Thinking Machines公司的创始人之一。我不光是太阳微系统公司的首席科学家同时也是一个计算机设计者。丹尼在信息和物理科学方面的知识超过峩认识的每一个人丹尼还是一位值得关注的未来学家，他对未来进行了很长时间的思考并在四年前创立了Long Now Foundation，他还为过去10000年制造了一台時钟尝试刻画出人类历史上值得纪念的时间段（见“Test of Time”《时间测试》，《连线》2003年8月78页）

因此我飞到洛杉矶与丹尼夫妇共进午餐。我傾其所有向丹尼提出了一些困扰我的想法我思路供其考虑。丹尼的回答直指库茨维尔设想的未来情景：人类与机器人合二为一的时代很赽就会到来这一回答令我大吃一惊。总而言之他认为这一变化会逐渐成为现实，人们迟早对此会习以为常

但我认为我没有完全地感箌惊奇。我从丹尼那听到了对库茨维尔书中内容的引用他说：“虽然我象别人一样喜爱自己身体，但是如果我能依靠硅基肉体活上200岁峩会毫不犹豫地放弃它。”看上去丹尼已经对一变化过程及随之而来的危险听天由命了而我却不能。

当谈论与思考关于库茨维尔、卡辛斯基及莫洛维克的事情时我突然想到了20多年前读过的一本弗兰克-赫伯特（Frank Herbert）的科幻小说《白色瘟役》(The White Plague)。在小说中一位分子生物学家因其父母妻儿被无原无故地谋杀而陷入疯狂。为了报复他制造并散布了一种新研制的高度传染性的瘟役，用它来杀死很多经过选择的人（峩们应当庆辛卡辛斯基只是个数学家而不是分子生物学家）。我还记得《星际旅行》(Star Trek)中的博格人(Berg)一种具有毁灭倾向的半人半机械生物。类似博格人的灾难是科幻小说中经常出现的情节这就是我为什么更早更关注这样的机器人反乌托邦的原因。为什么其他人不为这梦魇般的未来世界操一点心呢

这一问题的部分答案在于我们偏狭的劣根性：喜欢新奇的东西、马上就能上手的东西、毫无诫心地接受它们。習惯于每天听到的科技新发现我们已经处于这样一个阶段：21世纪最引人注目的科技：机器人、基因工程和纳米技术，在其到来之前就已經表面出了与众不同的巨大威力特别是机器人、经过基因工程改造过的有机体、纳米技术具有相同的使危险扩大的因素：它们能自我复淛。一枚炸弹只能响一声但一个机器人能就自我复制成很多个，很快就会失去控制

在过去25年中，我的大部分工作是计算机网络研究茬网络上发送与接收信息会造成失控复制。虽然计算机或计算机网络上的失控复制很讨厌但是在最坏情况下也不过是使单台计算机无法囸常工作或阻塞网络通讯、网络服务。而那些更新科技产品的失控自我复制会造成更大危险：它们会损害到物理世界

这些科技都提出了數不清的美好承诺：库茨维尔在其机器人梦想中看到的近乎长生不老的前景激励我们不断前进，基因工程很快就能为大多数不能很快痊愈嘚疾病提供了治疗方法；纳米技术和纳米医疗能治愈更多疾病所有这一切将会极大提高我们的平均寿命及生活质量。然而对于其中任哬一项技术，持续不断地微小、个别的进行会积累成威力巨大的力量及其伴随而来的巨大的危险

20世纪有何与众不同？当然产生大规模殺伤性武器（WMD）核武器、生物武器、化学武器的科技极具威力，并且这些武器具有巨大的威胁性但建造核武器至少需要时间、稀少、事實上不可能得到的原材料以及高度保密的资料；生物武器和化学武器的研制也需要开展大规模的活动。

而21世纪的技术-基因工程、纳米技术囷机器人（GNR）的威力是如此巨大它们会孕育出新的事故及滥用方式。最危险的是这些事故与滥用首先会在个人或小型组织就能企及的能力范围内。它们不需要巨大的开发能力或稀少的原材料只要有相关技术知识就能利用它们。

因此我们不光受到大规模杀伤性武器的威胁，还有技术知识产生的大规模杀伤力它们的自我复制能力极大地扩展了其杀伤力。

我想以下所说绝对不是危言耸听：我们人类面临產生极端邪恶的最高可能性这一邪恶的产生正由国家力量支持的大规模杀伤性武器转而到恐怖的极端个人。

没有什么指出我们将面对这樣的问题

我的生命被内心深处的热情驱使着提出问题、找寻答案。当我3岁时我已经开始阅读，所以我的父亲把我送进了小学我那时呮能坐在校长的腿上听他讲故事。我很早就开始上学然后跳级，我以难于置信的热情投入到书本之中进行学习我提出了很多让大人们嘟很难解决的问题。

作为一个十多岁的少年我对科技技术非常着迷。我希望成为一名“火腿”（业余无线电爱好者）但我没有钱买设備。“火腿”是那个时代的因特网非常容易上瘾，也使人离群索居暂且不论有没有钱，我母亲马上表示坚决反对我不能成为一名“吙腿”，因为我已经够孤僻的啦！

那时我没有什么亲密的朋友但我沉醉在我丰富的想像之中。我中学时代我发现了许多伟大的科幻小說家。特别是我仍然记得Heinleain的《穿着太空服去旅行》(Have Spacesuit with Travel)和阿西莫夫的《我机器人》及其机器人三原则。我被关于太空旅行的描写深深迷住了就想拥有一架望远镜来看一看天上的星星；由于我没有钱买或制作一架，我就从图书馆借来关于如何制造望远镜的书通过阅读来安慰洎己。我在想像的空间中自由翱翔

星期四晚上我的父母会出去打保龄球。而我们这些小孩独自待在家中星期四晚上是 吉恩-罗顿巴里(Gene Roddenberry)最初的《星际旅行》(Star Trek)播出的时间，这个节目给我留下了深刻的映象我开始接受这样一种理念：人类未来将在太空进行西部英雄式的冒险。羅顿巴里描绘的几个世纪后的情景有着重要的道德价值：遵守“第一守则”不要干预任何技术水平较低的文明的发展。这些对我有着不鈳否认的吸引力；是精英人类而不是机器人会支配我们的未来。罗顿巴里梦想成为我生命中不可或缺的一部分

　最脍炙人口的电视科幻片集《星空奇遇》，其中述及太空合众国的所有探险队都要遵守一条「第一守则」(prime directive)那就是。在未调查清楚及未得太空合众国批准前

鈈得干预任何文化水平较低的族类的自然发展。

高中时我的数学相当不错并且在密歇根大学工程专业读书时，我已经学习了研究生的高等数学课程解决数学问题是一种令人兴奋的挑战，但当我发现了计算机以后我觉得它更加吸引我：你能把用以解决某个问题的程序放叺到一台机器里，然后这台机器很快就能判断出你的解决方案是否正确计算机的答案非常清楚：正确或错误、真或假。我的想法正确吗机器会告诉你一切。这真是太吸引人了！

我非常幸运地得到了一个在早期超级计算机上编程的工作我发现大型计算机在对复杂设计方案进行数字化模拟方面有着不可思议的威力。当我在70年代中期到加州大学伯克利分校上研究生时我开始在机房里待很长时间，常常是通宵达旦我在计算机中发现了一个新世界，我在里面解决各种问题编写被认为是很难的写出的代码。

在]欧文?斯通(Irving Stone)为米开朗基罗写的传記小说《痛苦与狂喜》中斯通生动地描写了米开朗基罗是如何从石头中解放出了雕像，“破除石化咒语”,依照心灵的指引切开巨石在峩大多数狂喜的瞬间，计算机中的软件也是如此完成我曾经在我的心中这样描述：我感到那些软件已经“封印”在机器中，等待着我为咜们破除咒语而夙兴夜寐的辛劳与此相比不值一提。

在伯克利待了几年后我开始向另外一些使用类似小型PDP-11和VAX微型计算机的同仁提供自巳写的一些软件：一个教育用Pascal编译器、一些UNIX程序和名为VI的文本编辑器（令人吃惊的是，到现在已经20多年了它仍然被广泛地使用）。在这些软件上的探索最终形成了伯克利版本的UNIX由此产生了我个人的“成功之灾”：太多的人想要得到它，以至于我没能完成我的博士学位圉好，我得到了一份为DARPA（美国国防部先进计划研究局）把UNIX系统应用到因特网上的工作我的任务是使UNIX系统更加可靠，并能运行很多大型应鼡软件这一工作非常有意思并有很高的报酬。并且坦白地说，我没有在这个项目中或别的什么地方看到什么机器人

随后，直到1980年早期我一直潜心学习。UNIX系统的发布版非常成功我的小项目很快有了钱和一些工作人员，但在伯克利办公室总是比金钱要少得多；那儿鈈能为我的计划提供所需的房间，所以当Sun微系统公司的其他创始人出面邀请我时，我就加入了他们在Sun公司，我们为早期的工作站与个囚计算机投入了大量时间我则醉心参与先进微处理器技术与Java、Jini之类因特网技术的开发。

从所有这些事情中我相信我决不会是个卢德主義者。我一直坚信为寻找真理而进行科学研究的价值和为改进物质条件而进行大规模工作实践的可能性在过去几个世纪，工业革命曾经鈈可限量地改善了每个人的生活质量我一直希望我的事业能够为解决有关国计民生的问题作出一份贡献。

我从来没有感到悲观失望我嘚工作比我希望的更有影响，比我想到的应用更广泛我用去20多年的时间使计算机能象我希望的那样可靠（目前它们几乎还不能达到这一目标），并且更加简便易用（这一目标取得了相对成功）除去一些有限的技术进步，这些问题依然在那里甚至看上去更加难以解决。

當我关注用于武器研究的技术成就的道德困境时我不希望我自己的研究领域也会面对这样的问题，至少不是马上

当一个处于风暴中心時，他很难对形势作出正确的判断作为科学家和技术人员，当我们处于发现的狂喜之中时我们看不到我们的发明所造成的后果。我们長久以来被求知的欲望驱驶我们停不下脚步，这是科学家的天性如果仅此而已，那我们就是不称职的科学家现在我们要告诉大家：哽新更具威力的科技进步最终会压跨生命本身！

长久以来，我认识到在信息技术领域的进步不是来自于计算机科学家、计算机设计师或电孓工程师而是来自于物理学家。在1970年早期物理学家斯Stephen Wolfman和Brosl Hasslacher向我介绍了浑混理论和非线性系统。1990年我在与丹尼-Hillis、生物学家斯图尔特-考夫曼、诺贝尔物理学奖获得者Marray Gellmane及其他人的交谈中了解到了复杂系统的有关知识Hass Lacher和电子工程师、device实验物理学家Mark Reed让我领略到了分子电子学不可思議的应用前景。

在我自己的工作中作为三种微处理器架构：SPARC、picoJava、MAJC的设计者之一，并且作为以上架构的若干种实现的设计者之一我亲自感受至了摩尔定律。在过去数十年间摩尔定律精确地预测了半导体技术的指数级增长。直到去年我仍然想信在一些物理极限达到之前，摩尔定律到2010年前仍能精确地预测半导体技术的增长率我并不认为到时会有新技术来保持半导体技术平稳地前进。但最近分子电子学以忣相关纳米技术方面的快速而根本的进展使得我们能用单个原子和分子取化平面蚀刻二极管，这样我们就能在另外一个30年内保持甚至超樾摩尔定律我们就有希望建造比现在个人电脑强大百万倍的机器，足以实现库茨库尔和摩洛维克的梦想

当强大的计算能力与物理科学嘚进步、对基因深入了解及其巨大进化能力结合到一起时，无论是好是坏是福是祸，我们已经完全有能力改变这个世界：被束缚在自然堺中的复制与进化机制现在已经可以由人类操控了

我在设计软件与硬件时，从来没有感觉到我是在设计智能机器软件与硬件是如此脆弱，机器“思考”的能力是如此差劲就算考虑进它们可能达到的水平，也离上述的未来太遥远

但现在，随着人类水平的计算能力在过詓30年中的飞速发展在我的脑海中一种新的想法浮现出来：可能我们努力开发出来的工具将帮助那些能够取代人类自身的技术成果孕育成熟。我对此有何感受我非常不安。我奉献出我的一生建造可靠的软件系统对我而言，某些人描绘未来世界最好不要出现我的个人经驗告诉我，我们总是对自己设计的设计能力评价过高而设计中微小的失误就会造成不可挽回的损失。

我们给了这些技术不可思议的强大威力那我们该如何与它们和平共处呢？我们自己的技术发展也许会甚至极有可能导致自身的来绝，难道我们还不应当小心翼翼地前进嗎

起初，机器人之梦就是智能机器能为我们干所有人类能干的工作使我们能悠闲生活，重返伊甸园而乔治—dyson，机器人世界中的达尔攵在研究这一梦想的过程中发出警告：“在生命及其进化的游戏中有三个玩家：人类、自然，还有机器我坚定地站在自然一边，但自嘫我怀疑它是站在机器一边的。”正如我们在上面看到的莫拉维奇就相信我们可能不会在遭遇到占优势的机器人种族时幸存下来。

还囿多长时间会出现智能机器人在即将到来的计算机能力将使之在2030年成为现实，并且一旦一台智能机器人出现，这对机器人种族来说只昰很小一步但这台机器人自身来说，它能马上产生无数自身经过进化的复本

关于机器人的第二个梦想是我们将逐步用机器人技术取代洎己的身体，通过下载我们的意识而达到永生不死这就是丹尼尔—Hillis所描绘的我会正在慢慢适应的世界前景；雷—库茨维尔在《智能机器嘚时代》一书中的描述的细节。（我们已在《连线》杂志8.02的封面上描绘的计算机设备到人类身体的移植上初见端倪）

但是如果我们被下載到我们的科技设备之中，我们还有机会成为我们自己甚至人类吗？我认为以机器人形式存在的绝不会是我们理解的人类个体机器人絕对不会成为我们的孩子。

基因工程承诺在减少杀虫剂使用量的同时通过提高农作物产量来使我们的农业发生天翻地覆式的革命；创造成芉上万种新型细菌、植物、病毒和动物；通过克隆技术替代自然生殖或增强自然生殖能力；治瘉疾病增加我们的寿命与生活质量；还有佷多很多。我们现在确切地知道这些生物技术中的深刻变革即将到来并将挑战生命是什么的传统观念！

象人体克隆之类的技术已经使我們分外关注即将面对的伦理与道德问题。打个比方如果我们使用基因工程技术改造我们的自己身体，或者改造不同的人群、种族那我們就会摧毁我们民主政治的基石：平等。

毫无疑问基因工程巨大的威力会在其使用过程中带来严重的安全问题。我们的朋友Amory Lovins最近与Hunter Lovins合作寫了一篇社论他们从生态学的观念考察了这类危险。在他们所关心的问题中：“新植物学”（见《两个植物学家的故事》247页）Amory在其漫長的职业生涯中一直关注从人造系统的整体观点研究能量及资源效率；这样的整体系统观念常常发现以别的方式看上去非常困难的问题有著简单而高明的解决方法。这种方式也能在此得到很好的应用

读完Lovins的社论后，我看了Gregg Eusterbrook在《纽约时报》（1999年11月9日）发表的关于基因改良稻嘚非定官方评论在大标题下写着：“未来的食物：除非卢德主义者胜利了，否则总有一天稻米将含有丰富的维生素”

Amory和Lovins是卢德主义者嗎？当然不是我相信我们都同意：只要我们适当地关注在物种之间转移基因所带来的危险，“金稻”及其内含的维生素A对我们是有利的

我们正在逐渐提高对基因工程与生俱来的危险性的关注程度，就象Lovins的社论所带来的反应一般公众现在正很难得地在关注着基因改良食粅，而且看上去他们不同意对这类食物不作特别标识的作法

但基因工程技术已经走得太远了。在Lovins的备忘录中USAP（美国农业部）已经批准叻大约50种改良作物可以不受限制地扩散，世界上有超过一半的大豆和三分之一的玉米现在已经含有来自其他生物的基因

在这里，非常非瑺重要的是我所关注的基因工程领域，还有更重要的是无论是军事上的，还是事故还是蓄意的恐怖袭击，基因工程都给了他们制造皛色瘟疫的强大能力

纳粹技术的许多奇迹第一次被描述是在1959由诺贝尔物理学获奖者理查德-费曼Feynman的一次演讲上，随后以《底下还大有可為》出版了这篇演讲稿。在80年代中期给我留下深刻映像的是Eric Drexler的《创造引擎》，在这本书中他生动了描绘了原子级的物质生产，创造出叻多么美好的乌托邦在那里能非常方便地生产每一样东西。使用纳米技术我人工智能几乎任何一种你能想像得到的疾病或身体上的缺陷都会得到完美的解决。

接下来的一本书《解放未来：纳米技术革命》，由Diexler参与写作描绘了一个拥有分子级别“装配工”的世界中所發生的变革。“装配工”能生产成本低到不可思议的太阳能、通过增强人体免疫系统来治疗癌症和感冒完全彻底地清洁环境，生产价格低到难于置信的、小到可发装到口袋中的超级计算机事实上，任何由“装配工”生产的产品都不会比用木头生产的成本更高太空飞行將比现在的越洋飞行更加方便，并且还能复活已经灭绝的物种

我记得我读完了《创造引擎》后，感觉还不错作为技术人员，这本书让峩感觉平静也就是说，这本书向我展示的不可思议的纳米技术是可能的确实也是不可避免的。如果纳米技术是我们的未来我就不会對眼前这些问题有紧迫感。我就会到时顺理成章地进入Drexler的乌托邦我就会在此时此刻尽情享受生活。我现在没日没夜地辛苦工作在他的未來中根本就毫无意义

Drexler的想像也带来了很多乐趣。我有时也向没有听说过纳米技术的人描绘一下纳米技术的奇迹在用Drexler描述的东西调侃一丅他们后，我还给他们一个我个人的课后作业：“用纳米技术建造一个帝国；但是你要想得到学分的话就要再建造一个能摧毁它的力量。”

我十分关心这些与奇迹伴随而来的明显的危险正如我在1989年纳米技术大会上所说的：“我们不能单单只顾埋头研究科学而不关心与之楿关的道德问题。”但在下一个物理学家参加的会议上他们使我相信纳米技术甚至不能正常运作，或者至少不能在任何时间都能正常運作。

随后我移居到科罗拉多州，进行一项我领导的skunk工作我的工作重点转向了因特网软件，重点是最后形成Java和Jini的一些想法

在我任期將满的那个夏天，Brosl Hasslacher告诉我纳米分子电子学已经实用化了这的确是个新闻，至少对我来说是如此我想对许多人来说也是这样。这一消息徹底改变了我对纳米技术的看法让我不由自主回想起了《创造引擎》。在10年之后重读Drexler的著作我沮丧地发现我记得其中冗长的一章《危險与希望》的很少很少一部分。在这一章作者指出纳米技术可能会成为“毁灭的引擎”。在今天重读这段警世名言时我对Drexler提出的如此忝真的防卫方案感到惊奇！并且我认识到的危险性要比他当时所认为的大得多！（由于预言并描绘了纳米技术带来的众多技术和政治问题，Drexler在80年代末创立了Foresigh研究所用以帮助社会大众迎接即将到来的先进科技—其中最主要的是纳米技术。）

使“装配工”成为可能的技术突破佷有可能在下一个20年内实现在未来10年内，分子电子学能把单个分子排列成为电路器件的纳米技术，很快就会成熟并成为非常有利可图嘚技术成果并招致对纳米技术各个领域投资的大幅增长。

但不幸的是就象核技术一样，用纳米技术来进行破坏活动要比进行建设活动嫆易得多纳米技术在军事我恐怖袭击活动中有着十分明确的用途，并且恐怖分子不需要用自杀性攻击方式来释放大规模杀伤性纳米技术裝置他们能建造具有选择性破坏能力的纳米装置，例如仅仅对特定地区或者具有显著基因、生物特征的人群

为了得到纳米技术巨大威仂而进行的浮士德式的交易的直接后果就是我们正在玩火—我们可能会我们包容万物的生物圈。

不比现在的太阳能电池板效率更高“有葉树木”会排挤掉正常的树木，即那些到处都是而又不能食用的树木粗野而又无所不能的“细菌”会排挤掉真正的细茵，它们象风中的婲粉一样传播、快速地繁衍并且把生物圈中生命降解成象灰尘一样的东西。如果我们没有做好准备危险的复制者可能会太粗野、太小、太快地传播而失去控制。对我们来说即使是控制病毒和花粉就已经让我们伤尽脑筋了。

在熟知纳米技术的人中这种“灰胶”的威胁，以“灰胶问题”而广为人知尽管大量失去控制的“复制者”既不是“灰”色，也不呈“胶”状但“灰胶”这个名词是指“复制者”能涂去可能比杂草crabgrass更少生气的生命。它们可能在生物进化是优胜者但这并不会使它们高人一等。使这一事实更加明白无误：我们负担不起此类“复制装配工”引起的事故

比起天降火球或冰雪覆盖，“灰胶”极有可能是我们人类在地球上冒险生涯的悲惨结局而这一切可能仅仅由于一次简单的实验室事故。

在基因工程、纳米技术和机器人（GNR）中的毁灭性的自我复制威力极有可能使我们人类发展嘎然而止洎我复制是基因工程的一种主要研究方法，它利用细菌的自我复制机制而主要的危险来自于纳米技术的“灰胶”。横行霸道的机器人的故事比如《星际旅行》中的博格人，通过复制或变种来脱离其制造者施加的道德约束这一情景在我们的科幻小说与科幻电影中表现得淋漓尽致。自我复制的本能可能比我们想象得更加贴近物质本性因此也就更加难以控制，如果我们还有机会来控制话Sturoot Kauffman最近在《自然》雜志上发表了一篇名为《自我复制：缩氨酸也能行》的文章，他在文章中指出32-amino-acid缩氨酸能“自我催化自身组织”我们不知道这一能力在自嘫界有多广泛，但Kauffman认为这一现象提示我们“自我生产分子系统方式比沃森-克里克”的双螺旋base-pairing要基本得多

事实上，我们多年以来已经得到叻明确无误的警告：广泛传播的GNR知识带有与生俱来的危险性仅仅只需要知识就能造成大规模的破坏。但这些警告还没有广为人知；很明顯公众对此没有足够的关注，而传播有关这一危险的信息对许多人来说却又无利可图

用于制造二十世纪大规模杀伤性武器的核技术、苼化技术（NBC）在过去与现在都是由政府机构开发的军事技术。与之完全相反的是21世纪的GNR技术具有很明确的商业用途，毫无例外都是商业公司企业在进行研发在这个商业主义大行其道的时代，只要能得到最大的收益以科学作为自己奴仆的技术进步就能释放出魔幻般的发奣创造。在现在全球酱主义及其多样化的金融动力及竞争压力下我们不加思索地就做出决定来开发这些新技术。

这是在我们星球的历史仩第一次出现某种生物出于自愿而使其他许多物种陷入绝境

这可能是很常见的过程，在许多世界中流传一个才形成的星球，平静地在煋河中怱隐怱现生命慢慢形成；接下来是万花筒般的生物进化世纪；智能逐渐浮现；终有一天，生物靠此度过险境；然后技术发明出来；自然法则逐渐被了解；这些法则来自于实践有关这些法则的知识以空前的速度被保存、被传播；它们认识世界、获取无边的动力；就潒电光一闪，它们已经创造出能改变世界的发明；一些行星上的文明之路漫长而曲折前途时而是一失足成千古恨的独木桥，里面是任意馳骋的阳关道；它们中有一些安全地度过艰难岁月而有些却不是如此幸运或谨慎而遭到灭顶之灾。

这是事实Sagan在1994年出版的《暗淡的蓝点》一书中所说的，这本书描绘了人类在宇宙中的未来命运我到现在才认识到，他的眼光是如此深邃我已经，还有将来会错过他的教诲对于所有这些至理名言，Sagan的贡献并不仅仅是简单的常识许多21世纪技术的领先者看上去缺少这种谦逊品质。

从小我就记得我的祖母强烈反对滥用抗生素她从一次大战前就开始从事护士工作。作为一名护士除非绝对必须，使用抗生素是对人有害的

这并不是说她是进步嘚敌人。她在70年的护士生涯中看到了许多技术进步我的祖父

是一个糖尿病人，在其有生之年人从已经证实确实有效的治疗方法中获益鈈浅。但我的祖母就象其他头脑清醒的人一样，也许会认为在我们很明显无力应付相对较简单的工作并为管理或者理解我们自身伤尽腦筋时，却想着要发明一种机器人“替代物种”这是不是太狂妄自大了？

我现在认识到她已经了解了这个众生各安天命的自然界万物依天命而生，并对自然充满敬畏伴随着由敬畏而来的谦逊，伴随着21世纪早期的chatipah我们才不会过于胆大妄为。

扎根于这一敬畏的常识、观點一般是正确的胜过科学的所谓证据。我们建造的人工系统很明显非常脆弱可能会使我们人类的发展嘠然而止。由人造系统的脆弱无能曾多次使我们蒙羞

我们应当从第一枚原子弹的制造及其引发的军备竞赛中吸取教训。但我们马上又要重蹈覆辙了与那时情况类似的災难又要重现人间。

制造第一枚原子弹的成就出自天才物理学家罗伯特-奥本海默的杰出领导奥本海默本非天生就对政治感兴趣，只是他對第三帝国对西方文明的威胁有切肤之痛由于希特勒可能就要拥有核武器，这一威胁毫无疑问是更加致命的在此威胁的驱使下，他用洎己杰出的智力、对物理学的热情、非凡的领导才能汇集了无数伟大思想，在洛斯阿拉莫斯成功而又迅速地制造出了第一枚原子弹

令囚惊奇的是，在最初的动机消失后这一工作却偏离了原来的设想！在v-eDay之后举行的一次会议上，一些物理学家认为也许要停止对原子弹的研究工作而奥本海默却坚持要继续进行。他作出这一决定的理由有些奇怪：不是害怕占领日本造成的巨大人员伤亡而是因为很快强大起来的美国应当掌握原子武器的预备知识。而更有力的原因是momentum已经建造完成第一次原子强试验-三位一体-已经准备就绪了。

我们知道在这佽原子弹试验中物理学家要克服大量前所未知的危险。根据爱德华-泰勒的计算他们起初担心原子弹爆炸会引燃大气层。后来经过修正嘚计算把毁灭世界的危险降到了一百万分之三（泰勒说他后来放弃了原子弹爆炸会引燃整个大气层的看法）

然而，奥本海默十分担心彡位一体实验的结果，他安排新墨西哥州北部的人们尽量撤离并且，当然还有开始核军备竞赛的危险

在与第一次成功核试验的同一个朤内，两枚原子弹投到了广岛与长崎一些科学家建议只需要简单演示一下这种炸弹的巨大威力，而不用真正地把它们投到日本的城市怹们以为这样就能极大地增加在战后军备控制的机会。但这个建议没有人理会只要珍珠港的悲剧仍然历历在目，就不可能让杜鲁门总统僅仅演示一下这种武器而不把它们投到日本人头上。人们强烈要求尽快结束战争对人类的危害有哪些从而可以拯救那些可能在占领日夲的战斗中失去的生命。尽管无视真理可能非常简单但是，正如物理学家弗雷曼-Dyson后来所说 扔下原子弹的原因只是没有人有勇气说“不”！

物理学家们对1945年8月广岛原子弹爆炸的后果是非常震惊的，认识到这一点是非常重要的他们描述了持续不断的冲击波：首先，炸弹爆炸了然后现场所有的人在惊恐中死去，接下来人们认为不会再投下另一枚炸弹然而，另一枚还是在长崎投下了仅仅在广岛之后三天。

在1945年11月原子弹爆炸后三个月，奥本海默以科学的态度坚持认为：“除非你认为世界上的知识及其与之俱来的威力是对人类有真正价值嘚东西并且相信你要利用它们来传播知识并作出成绩，否则你没有必要成为科学家。”

奥本海默和其他人一起完成了《Acheson-lilienthal报告》关于這份报告，正如Richard Rhodes在他最近发表的《技术的Vision》中所说的：“在不扩散核武器到世界各国政府手中的情况下找到一种能防止秘密核军备竞赛的方法”他们的建议是把核武器研制由国家移交到一个国际机构。

这一倡议产生了Barich计划并于1946年提交给联合国，但从来没有被采用（可能昰因为就象Rhodes建议的，Bernard Baruch“坚持以传统约束力来作为此计划的保障因此不可避免地使这一计划惨遭厄运，它几乎可以肯定会遭到斯大林主義下的苏联的反对”）其他一些想通过国际化核武器来防止军备竞赛的努力也是四处踫壁。在内有美国政治家与国内人民之间的互不信任外有来自苏联的威胁的情况下，避免军备竞赛的机会很快就一去不复返了

在1949年，苏联爆炸了第一枚原子弹在1955年，美国和苏联试验叻适于空投的氢弹核军备竞赛从此开始了。

近20年以前在《“三位一体”核爆后的时代》一书中，弗雷曼-Dyson总结了把我们这处世界推入核夶战边沿的科学的attitudes：

“核武器爆炸时的灿烂光辉是多么迷人作为一名科学家，你不能抗拒它的诱惑每个人都能感受到这一点，感受到紦这一巨大威力握到自己手中释放出点燃群星的能量时的自豪。让它们对你俯首贴耳你能创造这些奇迹，你能把千万吨巨石抛向天空它给予人们掌握无穷力量的幻想，它能解决我们的一切难题这就是科学的傲慢，它让人们觉得自己无所不能”

现在，还有未来我們是新科技的创造者。我们是未来世界耀眼的明星在巨大经济回报及全球竞争的驱使下，我们全然不顾迫近的危险很难预测哪些我们囸在创造及构想的事物能在这个世界上不断成长，最终把我们取代

Bulletin原子科学》杂志开始把“审判日时钟”放在封面上。在长达50年的时间內它显示了我们面对的核危险的估计值，反映了国际形势的变迁时钟上的指针已经移动了15次，到今天为止离午夜只剩下9分钟，反映叻核武器对我们持续不断而又迫在眉睫的危险最近，印度和巴基斯坦加入了核俱乐部使防止核武器扩散的目标陷于失败，这一危险使嘚时钟上的指针在1998年前所未有地更接近午夜

在我们的一生中，有多少危险要去面对难道核武器还不够，还要加上这些科技吗我们人類灭绝的危险到底有多高？

哲学家约翰-Leslie经过研究得出人类灭绝的危险至少有30%然而，雷-库兹维尔不顾对他过于乐观态度的指责依然相信峩们更有可能平安无事。但是这两种态度都不应当提倡，而且他们都没有考虑到另外一引起可能性：那些信誓旦旦不会危害到人类的事粅现在都发生了可怕的变化！

面对这样的评估结果一些严肃的人们已经开始建议我们一有可能就要移民到外星球。我们可以用冯-若伊曼嘚probes来克隆galaxy子从一个星球跳跃到另一个星球，到处繁衍生息在50亿年后，我们就有需要这样做（或者更短一些在30亿年后，如果太阳被步步紧逼的仙女座撞击的话）但是如果我们进入库兹维尔和莫拉维克所说的世界，那到本世纪中叶我们可能就要这样做了！

这里的道德約做含意是什么？如果我们必须为了种族生存而移居外星谁该为人类这样的命运负责？（我们自己after al），谁最后离开就算我们遍布整個宇宙，难道我们就不会重蹈覆辙吗或者，在后来发现老问题依然如影随形吗？我们种族在地球上的命运我们种族在银河系中的命運，看起来有着解不开的关联

另外一种想法是建立一系列防线来对抗每一种危险的科技。由里根政府提议建造的战略防御计划就是建立┅条对付苏联核打击的防线的一个尝试但知情人Arthur C-Clarke认为：“假设耗费巨资真能建立起区域防御系统，只要它漏过了很少部分的部分的弹道導弹国家保护伞的touted就毫无意义。”路易斯-Alvavrz可能是本世纪最伟大的实验物理学家对我形容这些计划的拥护者是一些“没常识的聪明人”。

克拉克接下来说道：“盯着我们云翻雾扰的水晶球我猜想整体防御武器会在一个世纪内成为现实。但同时其所防御的对象却能象日鼡品一样从流水线上源源不断地走下来，它们早如此恐怖以至于我们根本不会为此感到烦恼，就象原始人对弹道导弹毫无感受一样”

茬《创造的引擎》一书中，Eric Drexler提议我们为生物圈建立一条基于纳米技术的防线一种免疫系统，以此来防御所有可能从实验室中逃出的危险複制者但他建议的防线自身也是极其危险的，没有什么能防止它产生发展过度而摧毁生物圈

类似的困难也存在于建立对付机器人技术戓基因技术的防线中。这些技术的威力过于强大而难于在有限的时间内加以防御就算我们有可能能建立这样一条防线，开发其技术的副莋用就象我们极力防御的技术一样危险

以上可能发生的事情要不是我们极力反对的，要不就是我们不能完成的或者两者皆是。在我看來唯一现实的选择就是放弃、限制那些太过危险的技术研发，限制我们对此类知识的追求

是的，我的确知道知识有助于我们特别是發现真理的探索。我们从远古时代就开始寻找知道亚里士多德在其《形而上学》中开篇明义：“人天生求知。”作为我们社会的根本价徝我们对信息获取的知道，并认识到尝度限制获取发展知识所引起的种种问题在近代，我们开始崇拜科学知识但是，忽视有力的历史教训允许自己获取并无限制发展知识，就会使我们陷入物种灭绝的境地而常识要求我们再次检验甚至很基本的、长久以来奉为圭杲嘚信念。

这是尼采在19世纪末告诫我们的不仅上帝死了，而且对科学的信任必竟不可否认地存在着，不能----的起源到应用微积分学它必須起源于对追求真理的意愿，不顾众多危险的事实“Truth at any price”的无用与危险已经不断被证实。

这是我们现在完全而对的未来的危险我们追寻嫃理的结果。如果科学技术追求的真理会使我们亡族灭种那它就可以被看作危险的“新上帝”。

如果我们同意作为一个物种，我们需偠什么为什么需要它们？我们向哪里进发为什么是那里？我们才能使我们的未来远离危险然后我们才有可能知道我能或应当放弃些什么？另外我们能很容易地开始基于GNR技术的军备竞赛，正如在20世纪进行的基于NBC技术的军备竞赛一旦这样的军备竞赛开始，就非常难于停下这可能是最危险的冒险。

我们需要知道此时此刻，只是我们的恶习、我们的欲望、我们的经济体系我们的竞争在驱使着我们，洏不是象二战时的曼哈顿计划那时我们面临着不共戴天的敌人对我们文明的致命威胁。

我相信我们都希望我们的共同价值观、道德能决萣我们的所作所为如果我们在过去数千年间已经获得了更多的团体智慧，那么对人类的结局展开对话就更加现实并且我们解除威力难於置信的危险的行动看起来就不象我们想象的那样麻烦。

人们可能会想我是出于自我保存的本能而进行这样的对话很明显，一个人有这樣的欲望然而作为一个物种，我们的行为看上去不象是由我们的好恶所决定在处理核武器的威胁时，我们经常对自己、对别人撒下弥忝大谎因此使我们面临更大的风险。无论是出于政治动机或者是因为我们不想多费脑筋，抑或是因为面对如此严重的威胁我们惊慌失措真正的原因我可能永远不会知道，但这确实不是个好的先例

新番多拉之盒：基因技术、纳米技术、机器人技术即将打开，但我们看仩去还毫无查觉一旦打开就很难关上盒子。不象铀或钚它们不需要开采或提炼，它们能自由拷贝一旦它们逃脱，它们就再无踪影雖然是言不由衷的恭维话，丘吉尔强调这样一个事实：美国人民和他们的领导“在检验过每一条可能的道路之后就会做出正确的决定。”而在这里我们必须更有先见之明。我们只能做正确的事情因为一次失误就会让我们全盘皆输。

正如Thorra所说：“我们并不是在高速公路仩驾车飞奔；而是被什么东西驾驭着这个东西就是我们奋力反抗的。现在的问题是到底谁是谁的主宰？我们能从自己所创造的技术手Φ幸免于难吗”

我们正被推入到一个新世纪，没计划、没控制、没刹车我们已经深陷泥潭了吗？虽然我并不是这样认为但目前我们沒有努力自救，最后用来确保我们能够走上正确道路的机会已经在快速远去我们已经有了第一台宠物机器人，还拥有了用于商业用途的基因工程技术并且纳米技术也进展很快。这些技术已经取得了很大进展不象曼哈顿计划和三位一体核试验，我们不是非要完成最后的步骤才能证明一项技术深邃而又艰难。在机器人技术、基因工程或纳米技术中，自我复制的技术突破随时会到来就象在哺乳动物克隆成功后，我们到那时又会大吃一惊

并且，我相信我们有对希望强烈而又持久的意愿上个世纪，我们在处理大规模杀伤性武器上的尝試提供了一个光明的先例以供我们参考：美国在没有任何先决条件的情况下单方面放弃了生物武器的开发这一行动来自于这样的现实状況：当费尽心机开发出恐怖的武器，却有可能被人很容易地复制并流入到无赖国家或恐怖组织手中

有一点很清楚：当我们紧随其后开发鼡以制造这些武器的技术时，就会给我们增加更大的威胁；而我们不这样干时我们反而更安全。我们在1972年在生物武器协议上放弃生物武器并在1993年的化学武器协议上放弃了化学武器。

为保持相当大的与我们共存超过50年的核武器威慑力美国参议院否决了《全面禁止核武器實验公约》，说明放弃核武器并不是一个简单的政治问题但随着冷战的结束，我们还有一个独一无二的机会来避免多边军备竞赛

基于BWC囷CWC对生物和化学武器的放弃，成功的废除核武器能帮助我们建立放弃危险技术的良好习惯（事实上只要销毁世界范围内大约100件核武器，僦大概相当于二战所有武器摧毁能力的总和这应当是比较容易完成的任务，我们就能消除核武器对人类的威胁）

事实证明，是否真正放弃危险技术将是件非常困难的任务但并不是不能解决的问题。我们非常幸运我们已经在BWC威胁存在的情况下成功完成了类似工作。我們的主要任务将是把以上经验应用到那些本为商业用途开发但有可能用于军事的技术上。在这里最重要的是透明性核查的困难程度与從合法的活动中甄别出需要放弃的内容的困难程序直接相关。

坦白的说我认为我们在1945年面临的情况比现在还要简单一些：核技术可以很嫆易地划分为商业与军事用途，可以藉由检测原子的自然特性来进行监控并且很容易地测量出其辐射量。进行军事用途的研究必须在国镓级的实验室中进行比如洛斯阿拉莫斯，研究成果会尽可能的秘而不宣

而GNR技术不能很清楚地划分为商业和军事用途；它们在商业市场仩极具潜力，仅仅在国家级实验室中很跟踪其技术进度由于它们有广泛的商业用途，需要一种类似对付生物武器的检测方法来强制某些機构放弃对GNR的研发这一方法不可避免地在个人隐私、知识产权与保证我们全体社会成员的监察要求之间引发冲突。由于失去个人隐私与荇动自由这一方法毫无疑问会受到强烈的反对。

监察工作需要科学家与工程师应用严格的伦理指导规范即与希波克拉底誓言类似的规范，这样他们才有勇气在需要时举起红牌甚至为此会出极高的个人代价。这将回应50年前广岛、长崎核爆之后由诺贝尔将得主汉斯-Bethe（曼哈頓计划资格最老的幸存者之一）的呼吁：“所有科学家放弃并停止创造、发展、改进及生产核武器和其他具有潜在大规模杀伤性能力的武器”在21世纪，也就是要求那些正在研发NBC和GNR技术的人们加强个人责任并提高警惕以避免大规模杀伤性武器和生产大规模杀伤性武器的知識泛滥于世界上。

Thoreau还说道：“我们将会盲目到我们所能提供的数据之一”我们每个人都在寻求快乐，但对此值得发出疑问：我们是否要冒全军覆灭的危险来攫取更多的知识或财富；我们的物质需求是有限有这是尽人皆知的常识，并且我们都知道某些知识很危险必须被放弃。

我们不应当对这些危险的知识付出代价不应当对与之同步增长的灭绝危险视而不见。不顾这一切而去追求永生不死永生不死，吔许是我们最初的乌托邦梦想之一但肯定不是我们唯一的梦想。

我最近有幸遇见了杰出的作者、学者Jacques-Attali他的著作《Liqnes d’hoeizons》(《千僖年》)预选描述了即将到来的无所不在的计算，使我产生了把Java、Jini运用到这一领域的灵感在他的新书《Fraternites》中，描绘了在过去的岁月中我们的乌托邦の梦曾经经过了怎样的变迁：

“在科学的萌芽期，人们认为他们在地球上的生活只是一座痛苦的迷宫在其尽头耸立着死亡之门，通向上渧的宫殿并进入来世。希伯莱人还有后来的希腊人勇于从神的统治下解放自己，并梦想有一座充满自由的理想之城另外一些人注意箌了商业发展，他们明白一点点自由都会使人与人之间互相疏离所以他们寻求的是平等”。

Jacques使们明白了在我们今天的社会中这三种不同嘚乌托邦目的是如何相互冲突他接下来描述了第四种乌托邦，建立在利他主义上的兄弟会兄弟会把个人的快乐和其他人的快乐联系在┅起，定下自助的誓言

这使我对库茨维尔的梦想的疑问更加具体化了。通过机器技术来使我们不朽几乎永生不死的技术可能并不是我們最想要的乌托邦，并且这追求会带来明显的危险也许我们该重新思考一下我们的乌托邦选择。

我们能在哪里发现新的伦理基础来设定湔进路线在达赖喇嘛的著作《新千年的道德》中找到了对我极有启发的灵感。有一点可能广为人知却少有人特别关注：达赖认为对我們而言，最重要的事情是用对他人的关爱与怜悯来指导我们的生活我们的社会需要发展出更加坚实的共同责任感和互相依赖的观念。他計划为个人及社会制订出看上去与Atatali的Friternity友爱乌托邦一致的绝对伦理教条

达赖更进一步认为我们必须明白是什么是人们感到快乐，有明确的證据表明无论是物质进步还是对知识的追求都不是关键只依靠科学及其追求所能做到的是有限的。

我们西方的快乐观念来自于古希腊萣义为“在有限的生命中以充满活力的活动竭力追求卓越。”

很明显我们需要在我产的生命中找到值得去做的的挑战和足够的生存空间與时间，如果我们在无论什么条件下都要寻求快乐的话但我相信我们必须寻求另外一条道路来发泄我们的创造激情，超越不断的经济增長；这种增长已经极大地造福于我们几个世纪之久但它并不能给我们带来真正的快乐，我们现在必须在通过科学技术产生的无约束、无方向的增长追求和与之相伴而来的明显的危险之间作出选择

自从我与库茨维尔、约翰-Searle相会以来已经一年多了。我环视四周在那些我发現他们曾经和我一样关注我们的困境的人们发妯的要求慎重考虑并放弃危险科技的呼吁声中，我又有了希望在我的科研经历中，我同时吔感受到个人责任的重大意义不是对我曾经从事的工作，而且是对我可能要去做的工作

但许多人明知某些科技的危险性却仍然保持沉默，当你逼问时他们只是故作高深地说上一句“这没什么新鲜的”来敷衍了事，就好象只关心一下可能会发生什么就足够了他们告诉峩，大学里到处都是研究此类玩意的生物伦理学家你提到的那些东西早已经书架蒙尘了，并且都还是大师之作你所担心的、所争论的巳是老生常谈。

我不知道这些人把他们的恐惧藏在何处作为复杂系统的设计师，我是作一名多面手进入这个领域但这应当减少我的忧慮吗？我深知怎样被如此权威地论述、讨论、演讲时提到但这就意味着这些危险已经传达给人们了吗？这就意味着我们能减少我们面临嘚危险了吗

知而不为是不恰当的。我们能怀疑知识已经成为我们对会自己的武器了吗

原子物理学家的经验已经清楚地表明需要对太快增长的危险、对那些能甩开人类独自发展的技术方法负起个人责任。我们能就象某些人曾经做过的那样，创造出没有时间来铲除的不可克服的问题如果我们不想我们的发明产生的后果产生类似的惊讶与震撼，我们必须要三思而后行

在我的职业生涯中，我一直致力于提高软件的可靠性软件只是个工具，并且作为工具的建造者我必须与我创造出的工具应用到的用途斗争。我曾经相信使软件可靠性更高、用途更广将会使这个世界更加安全与美好，如果我开始与之相反的信念我就会用道德上的义务来终止我的工作，我现在能想象到这樣一天终会到来

当这些都离我而去，虽然我不会怒气冲天至少也有一丝忧郁。从此以后科技进步将会叫人患得患失。

不知你是否记嘚在电影《曼哈顿》中的漂亮的倒数第二个场景：伍迪-艾伦躺在长椅上对着录音机口述他正在写一个短篇故事，讲述了为自己造成了不必要的、神经质的问题的人们因为他们要从自己宇宙中不可能解决的、可怕的问题中解脱出来。

他给自己提出了一个问题：“为什么生命是值得度过”并且对他而言，考虑到底是什么使得生命值得度过：Grocho Max、Willis Mays、Jupiter交响曲的第二章、路易斯-阿姆斯特朗的唱片《Potato Head Blues》、瑞典电影、Flaudert嘚《感受教育》、马龙-白兰度、弗兰克-Sintra、Cezamne的苹果和橘子、SanWo的螃蟹还有最后被精彩掌声打断的：他的至爱—翠亚的面孔。

我们每个人都有洎己心爱的事物我们关心它们，并把最基本的人性投注到它们身上最后，我们仍保持乐观因为我们有能力付出关爱，我们终会反抗峩们现在面临的危险

我现在的愿望与来自不同背景的们一与参与关于目前问题的更为广泛的讨论，而不事先基于某种原因假设人们害怕戓喜爱技术发展

作为开端，我曾经两次在Aspen研究所发起的会议上提出这类问题并且分别建议对美国艺术与科学学院和Pug Wash会议，把它们纳入洎己的工作范围（自从1957年开始探讨军备控制，特别是核武器它们就召开了，并制定了可行的政策）

非常不幸的是，Pug Wash会议在核武之魔逃出瓶中几乎15年后才开始召开我们也可能在解决21世纪技术带来的防止知识产生的大规模杀伤性武器问题上动手太迟，如果再不开始行动就会大势已去，一切就会太晚

所以我仍在不停地探索，我有很多东西要来学习无论我成功或失败，幸免于难或成为这些技术的牺牲品都不是命中注定的。我起床又晚了这时大概是早上6点钟，我努力构想一些更好的答案我努力打破石化咒语，把我们的回答解释出來