在英国对德宣战的那天晚上，卡纳里斯和三位下级正在访问一位负责反谍报的盖世太保官员的家庭。那位官员及其妻子担心战争将旷日持久；他的三位下级认为德国能很快赢得胜利。卡纳里斯没有说话。在后来的几个星期里，他的同事明显看到他对战争深切地表示悲观，或许是因为他认为德国没有作好准备，注定要失败。这显然使他更加坚定地反对这场大规模破坏战争的制造者。不久人们就把他当成反希特勒抵抗运动的成员。
但是，他并没有做反对希特勒的事情。原因在于虽然他憎恶希特勒，却热爱德国。然而为德国效力也就意味着在帮助元首。这种进退两难的处境在折磨着他。他本来和蔼可亲，讨人喜欢，现在却变得郁郁寡欢，神色紧张，越来越向他的那对小狗寻求寄托，喝酒也比平常多起来了。他的绝望，如同他的处事方式一样，有时以间接的形式表现出来。
每当他的下级向他汇报情况，他非常仔细地进行询问，弄得下级开始怀疑自己的消息是否可靠的时候，他总是说： “明白了吧，孩子，当你很仔细地观察事物的时候，就会发现不是那么一回事。”一九零五年，俄国一位海军上将明明知道注定要失败，还是毅然绕过半个地球，来到对马海峡同日本人进行海战，卡纳里斯经常拿自己和这位俄国海军上将相比，可是他从不敢正视自己的困难处境，他逃避它，不仅心里打退堂鼓，人也溜掉了。他抓住每个借口往外溜，跑遍了半个欧洲，从一个国家的首都来到另一个国家的首都，从一个战地谍报站来到另一个战地谍报站。 “他怎么老不在家”，这样的批评也不能把他留在家里。因为只要呆在慕尼黑、马德里、威尼斯或阿尔赫西拉斯，他就不必天天参加会议，免得在是帮助希特勒还是祸害德国这个问题上作出痛苦的决择，免得在处理行政问题时碰到同样的麻烦，也用不着向元首递送报告，免却无论受到表扬还是遭到训斥时都耿耿于怀的自我憎恨。当他回到柏林，面临着这些问题的时候，他就回避它们。到了一九四二年，他把向武装部队最高统帅部高级军官汇报形势的差事交给一位下级。他极力回避希特勒，自从战争中期以后，他再也没有见过希特勒，甚至拒绝接受通常无法拒绝的宴会邀请。他遇事绕道走，避免作出重大决定。一位观察家说：“他直到最后还是犹豫不决。”虽然一位相识把他比作奥德修斯，另一位相识把他比作流浪的犹太人，一位独具慧眼的人却把他看得更透： “他是保守的德国的哈姆雷特”。
他优柔寡断，最终事败身亡，事败是由于他的迟钝，身亡则不是由于这个原因。
虽然他的特务机关提供了无数机会，他却从来没有密谋暗杀希特勒，甚至没有密谋把希特勒撵下台。 （他充其量不过是庇护了一些反希特勒分子。 ）他从未向同盟国泄露机密。然而仅仅由于他同反对派有交往，就使他在一九四四年七月二十三日，也就是密谋用炸弹炸死希特勒之后三天被逮捕。密谋败露后，那些积极参与密谋的人很快丧了命，而他的性命却保留了好几个月。只是等到第三帝国本身行将覆灭的时候，希特勒才把他送上了西天。他于一九四五年四月八日在墓尼黑北面的弗洛森比格监狱被处决。临死前的几个月，他阅读了恩斯特·坎托罗维奇所写的霍亨斯陶芬王朝腓特烈二世威武雄壮的一生，这位中世纪最显赫的德国皇帝，反对罗马教皇势力的最坚强的斗士，他那个时代最有学问、最好女色的男子之一，被人称作“声威震世”的伟人的一生，同卡纳里斯的一生比较起来，真是一个在天上，一个在地下。
他的麻痹迟钝毁了他的谍报局，他没有把它办成功，致使这个机构在一九四四年二月被德国保安总局并吞，他被撤职降级，调去领导经济战争特别委员会。卡纳里斯的那些品质，开始时显得难能可贵，可是从来没有发挥作用，简直可有可无。他机诈权变，很受众人称道，可是他从来没有利用这种本领在敌人领土上策划过一起成功的暴动。他在政治和军事方面的判断才能，遐迩闻名，可是在谍报局这个小圈圈内，尤其是在希特勒这么一个人的控制下，压根儿没有发挥‘出来。谍报局要想取得成功，需要的是一位强有力的领导和管理干才。它需要这样的一位头目、这个头目能与其他机构争夺最能干的人员，而不是让自己的机构成为政治反对派的避难所。他能认识到谍报对象重复所造成的浪费，而让每个谍报站只分管一个地区。他能检查手下特务的密码并加以改进。他将督促负责通讯工作的人设法缩小特务使用的无线电台的体积，增加无线电电波传播的距离。这些事情，卡纳里斯一件也没有做到，即使做了，也差得很远。相反，他对自己的机构听之任之，同积极进取的党卫队保安处相比，就尤其显得如此。结果，早在第三帝国覆灭之前，谍报局就遭到失败，在第三帝国覆灭的时候，它甚至已经不存在了。
在卡纳里斯担任谍报局局长的八年中，谍报局一处处长几乎一直是汉斯·皮肯布罗克上校，因此他是第三帝国通过间谍搜集军事情报的主要直接负责人。皮肯布罗克出身名门望族，是埃森一个信奉天主教的富家的后裔。第一次世界大战初期入伍，当了骑兵，凡尔赛条约签订后，仍然审在军队里，一九二八年和一九二九年在军队部三处工作。一九三六年十月一日，他调到谍报局，担任老一组少校组长，当时这个组开始领导全部间谍活动。一年以后，他仍然怀着对谍报局前途的乐观展望，和骑兵团老战友、驻贝尔格莱德武官法贝尔·杜·福尔一起游览了地中海。战争爆发的时候，只差一个月就是他四十六岁生日。他高个儿，面色黝黑，头发稀少，双耳突出，聪明，快活，老于世故，宽宏大量。他的聪明才智掩盖了他精力的不足。他是卡纳里斯最亲密的合作者，很可能是他最好的朋友；卡纳里斯不对别人讲的话，却对他讲，卡纳里斯开玩笑，别人还丈二和尚摸不着头脑，他却早就悟出了其中的奥妙。他称卡纳里斯为“阁下”，这是一八七一至一九一八年德皇在位时只有将官才配享有的称号。看起来他是专心致志地在谍报局一处工作，把对外接触的事情留给卡纳里斯。在三年战争期间，他只有一次向哈尔德汇报过工作，只有很少几次参加过武装部队最高统帅部作战部的会议。
他偶尔接受特殊任务。德国入侵挪威的前五天，他在哥本哈根会晤了维德孔·吉斯林。皮肯布罗克在一九三七年升为中校，一九四零年升为上校，但是要升为将军，就需要在前线指挥军队。因此，快到一九四三年三月底的时候，他离开谍报局，来到前线，首先指挥一个步兵团，后来指挥二零八步兵师，同年八月就获得了令人垂涎的将军头衔。后来他一直留在东线。
接替他担任军事间谍头目的是格奥尔格·汉森上校，他是一个完全不同类型的人，三十八岁，浅黄头发，又高又瘦，面目清秀，同性情闲雅的皮肯布罗克不一样，他同士兵弟兄们打得火热。有时候，他有些招摇，妄自尊大，声称自己无所不能。
有些人认为他野心太大，卡纳里斯的邻居赫尔穆特·毛雷尔就有这样的看法，这或许是由于一起事件造成的。有一次，毛雷尔被派去请汉森，在柏林皮肯布罗克的家里，汉森和司机坐在一起·正在大口大口地喝酒，突然他大声吼叫起来：“毛雷尔，我要开着车把你们全都撞死。”
汉森从一九三七年以来一直从事情报工作，首先在外军处，领导一个小组，研究英联邦、美国和其他国家的军队，后来在东线外军处。从一九三九年至一九四一年，他领导东线外军处一组，研究一些国家包括大多数巴尔干国家和近东国家的情况。一九四一年五，六月期间，德国空降兵入侵克里特岛，英军袭击维希法国控制的叙利亚，伊拉克反英国的部队举行起义，赢得了希特勒给予支持的诺言的时候，汉森访问了叙利亚和伊拉克，回来后直接向哈尔德和武装部队最高统帅部作了多次汇报。一九四二年，他被调到重要得多的俄国战场，向哈尔德报告有关苏军战斗力的各项数字。他一直保持着冷静的判断力。在雅典庆祝德军突破斯大林防线的胜利的时候，他对谍报局的一位军官说： “还有多少道斯大林防线需要突破？”
他接替皮肯布罗克的职务以后，负责谍报局一处几乎达一年之久，直到卡纳里斯被撤换时为止。这时，谍报局正为它并入德国保安总局作准备，汉森被任命为整个谍报局的临时负责人，但仍然主管谍报局一处。一九四四年六月德国保
安总局接管了谍报局以后，他留下来领导谍报局剩下的一部分人。但是汉森早就积极密谋暗杀希特勒。一九四四年七月十六日，他和一些年轻的密谋者在一个人的家里开会。这个人四天后安放了一颗炸弹，炸弹在希特勒的会议桌下爆炸了。又过了四天，当汉森在维尔茨堡探望快要生第五个孩子的妻子的时候，他接到一封电报，要他立即回到卡尔滕布龙纳的办公室。他回来后只活了六个半星期。
柏林护城河北岸，有一条蒂尔皮茨沿河大街，街道两旁栽种着树木。谍报室的办公室，就设在这条街上原来的一排豪华楼房里。要进入这些楼房，必须穿过毗连的一座砂岩砌成的四层楼房，这栋楼房的门牌号码是七十二至七十六号，它就是武装部队最高统帅部的所在地，也是自从德皇威廉二世即位以来历届国防部的所在地。所有的建筑物都有后走廊，和本德莱尔大街上的武装部队总部的凌乱建筑物连接在一起，本德莱尔大街南北走向，与蒂尔皮茨大街成直角。谍报局的楼房里有弯弯曲曲的过道，还有楼梯，过去的餐厅，厨房，女侍房间，卧室和起居室。这地方很不适合办公。
然而卡纳里斯从来不想搬走。他的办公室有—‘个面向护城河的阳台，外间还有一个办公室，供两个秘书工作。他自己那间办公室不大不小，稀稀落落地安放着一张办公桌，一个沙发，几个公文柜和一张帆布床。墙上挂着一幅世界地图，他的前任和弗朗西斯科·佛朗哥的照片，照片上有一列长长的题词，还挂着日本武官送给他的一幅日。本油画，画的是一个凶神恶煞的魔鬼。卡纳里斯就在这儿工作，召开每日碰头会，有时也在这里午休。后来柏林越来越频繁地遭到轰炸，迫使谍报局和其他许多机构一起撤出首都。一九四三年四月十九日，谍报局搬到柏林南面大约二十英里的措森陆军司令部。
一九三九年十月十八日，战争爆发之后一个半月，谍报局总部完成了组织发展工作。它已经成为一个完整的部门。
它的三个处仍然是卡纳里斯的独立下属机构，但是人们一般把它们合称为谍报局。
一处（谍报处）最大，最重要。一九四三年三月，它在柏林总部有六十三个军官，而二处（破坏处）只有三十四个，三处（反谍报处）只有四十三个。一处的七个组负责敌区的谍报活动，根据谍报性质，这七个组分别取名为：一处陆军东线组和一处陆军西线组，这两个组是以挪威东部至意大利这一条线为界线，根据特务进行活动所在的国家，而不是根据谍报所涉及到的国家划分的；一处陆军技术组；一处海军组；一处空军组；一处空军技术组和一处经济组。除了特殊情况以外，一处不具体管理特务，一般也不指挥谍报单位的实地活动。它基本上只起协调作用。它向谍报局从事实地谍报活动的单位传达其他机关希望它们出去搜集情报的请求。情报搜集回来之后，它将它们送给请求机关。它除了把明显无用的情报扔掉以外，一般不分析估价情报，但它可以决定从事实地情报活动的单位所不能解决的问题。比如，如果一个间谍网的头目有陷入危险之嫌，它可以命令这个间谍网进行改组。有时它可以决定一个间谍网是否能买一辆小汽车。它可以询问某项工作是否已经完成，能否再接受其他工作。它还清查间谍网的帐目，或者确定从事实地情报活动的各单位特务之间的联络暗语。它负责处理这些单位提出的派遣人员和提供物品的要求。在进行后面这项工作的时候，它得到两个小组的帮助；一处机密组（伪造证件、制造隐显墨水、微粒和其他间谍活动设备）与一处通讯组。
真正负责间谍活动的，是在实地从事间谍活动的单位。
二十一个军区各有自己的谍报站，通常设在军区司令部大楼里，例如第十军区谍报站，就设在汉堡僻静的哈费斯图德住宅区，离两旁栽种了树木的索菲因大街尽头不远的那栋灰色三层钢筋水泥建筑物里。较大的谍报站有三种下属单位：谍报分站、前哨站和报告中心。谍报分站是真正较小的谍报站。前哨站的活动范围更加有限。报告中心是在战争期间建立起来的，它们帮助谍报站的特务到达活动地区，并且报告他们的活动情况。在战争期间，这种办法普及到德占区。新型谍报单位纷纷建立起来。战区谍报站称作谍报主站。非常小的谍报单位称作“前哨分站”。到了一九四二年春季，纳粹德国的征服取得了最了不起的成功的时候，谍报局一共有三十三个谍报站｛ 包括两个主站），二十六个谍报分站，二十三个前哨站。（这不包括当时拥有谍报局机构的唯一战区东线里面的由谍报局东线主站领导的机构。 ）在战争期间，谍报站的级别时升时降。瑟堡在一九四二年是一个只有三个人的反谍报前哨分站，到一九四四年面临盟军入侵威胁时升为前哨站。塞萨洛尼基曾经是前哨站，后来降为前哨分站。随着德国领土的丧失，这些谍报机构也就纷纷解散了。
谍报站和谍报分站的组织结构，是按照谍报局总部的组织结构建立起来的。每个谍报站和谍报分站都有从事谍报、破坏和反谍报三个部分，每个部分同样有和谍报局总部相对应的分支机构。每个谍报站及其下属机构平均拥有一百五十名工作人员，不过每个独处一方的谍报机构的人数有的多，有的少，多的像巴黎站有三百八十二人，少的像瑟堡前哨分站只有三人。
这些谍报站虽然在行政上属于所在军区，它们的活动却直接受卡纳里斯本人的指挥。任何个人都没有那么大的能力，能够有效地监督分布得很广的三十三个谍报站的工作，何况卡纳里斯也不愿意这样做，这就使这些谍报站实际上独立进行活动了。有的谍报站甚至不往下派遣特务，柯尼斯堡、卡塞尔、波森、但泽等谍报站就是如此。其他谍报站发挥了唯一的协调作用，是由于遵守了一条松散的原则，即各个谍报站以它面对的敌人领土为目标开展间谍活动。德累斯顿谍报站的活动目标是捷克斯洛伐克、斯图加特和威斯巴登谍报站的目标是法国，汉堡谍报站的目标是英国和美国。但是，由于个人兴趣不同，即使这样松散的原则，也被打乱了。慕尼黑谍报站的军官只顾搜集巴尔干半岛地区的经济情报，其他情报几乎完全不管，尽管慕尼黑的地理位置和经济地位都不能为该站的这种做法提供正当理由。在德累斯顿谍报站，精力充沛的经济组组长蒂洛·德内中校，从他在西班牙和土耳其的特务那里取得了许许多多的经济情报，以致他很快就得到了提升。他一离开，这个谍报站的工作就全垮 ’了。
这些波动，以及由�