2002年の日韓Wカップが終了すると岡野俊一郎がサッカー協会会長職を退き、川淵三郎が後任の会長となった。新会長のもとには技術委員会から後任監督候補のリストが届いたが、川淵はそれを無視する。
川淵が独断で選んだトルシエ監督の後任は、鹿島アントラーズのテクニカル・ディレクターを務めていたジーコ（本名、アルトゥール・アントゥネス・コインブラ）だった。
ジーコの日本代表監督就任はサポーターの歓迎を受けたが、一方で全く監督経験のない彼の手腕に不安の声もあがった。その新監督の力量を測る最初の試合が、10月にジャマイカを招いて行なわれた親善試合だった。
ジーコはこの試合で、中田英寿・中村俊輔・小野伸二・稲本潤一の4人を先発起用する。トルシエ時代には決して実現することのなかった、「黄金の中盤」である。
ジャマイカとの試合は1-1の引き分けに終わる。攻撃的な選手を揃えたこの中盤は、あまり機能したとは言えなかった。しかしジーコは安易なメンバー替えを嫌い、連携が自然に出来あがるのを待った。そして選手たちの自主性を重んじ、彼らにあまり細かい指示を与えることもなかった。
8月には五輪代表チームが結成され、当時U-21の選手たちが集められた。そして翌9月には韓国で開かれたアジア大会のサッカー競技に参加している。監督は、トルシエジャパンでコーチを務めた山本昌邦。中心となる選手には、大久保嘉人・茂庭照幸・駒野友一・阿部勇樹・石川直宏・田中達也らがいた。
アジア大会のサッカー競技にはA代表チームやU-23のチームが混在していたが、U-21の選手で臨んだ日本チームは健闘する。予選リーグを無敗で突破すると、決勝Tも勝ち抜き決勝に進出したのだ。決勝ではアリ・ダエイを擁するA代表のイランに1-2と敗れてしまうが、五輪予選に向けて大いに期待出来る結果となった。
03年6月にフランスでコンフェデレーションズカップが開催され、日本はアジアチャンピオンとして参加した。日本代表の顔ぶれはトルシエ時代とほとんど変わりなかったが、唯一アテネ五輪世代の大久が新しくチームに加わり先発出場している。
日本は初戦で格下のニュージーランドを3-0で下し、2戦目はメンバー落ちのフランスと戦った。日本は主力のいないフランスと互角の戦いをするが、前半終了間際に稲本のファールがPKとなり先制点を許してしまう。だが59分、中村が鮮やかなFKを決めて1-1と追いつく。だがその直後フランスに勝ち越し点を決められ結局1-2と敗戦を喫した。
試合終了後ジーコはPKの判定に意義を唱え、FIFAの審判割り当てについても非難する。そしてジーコの審判批判は、06年のWカップまで何度も繰り返されることになる。3試合目のコロンビア戦では宮本恒靖のパスミスから1点を失い敗戦、予選リーグで大会を去ることになった。この大会の試合内容は決して芳しいものではなく、日本の問題点は少なくなかった。
12月には日本で、第1回東アジア選手権が開催される。この大会の優勝は、最終戦日本対韓国戦で決まることになった。だが開始早々の18分、ファールとシミュレーションにより続けて警告を受けた大久保が退場となってしまう。
結局試合は0-0の引き分けに終わり、得失点差で東アジア王者のタイトルは韓国に輝くことになった。ずっと先発で起用されながら未だ無得点で、ラフプレーばかり目立つ大久保には批判が集まる。
04年2月には、早くもドイツWカップに向けた1次予選が始まった。この頃代表の中心選手はほとんど海外でプレーしていたが、コンディションの善し悪しにかかわらずジーコは海外組を重用した。
おのおののコンディションにばらつきのある代表チームは、格下相手にも苦戦を強いられていた。孤高を貫く中田と他の選手の間で険悪な空気も漂い出すが、チーム内の不協和音にジーコは関わろうとしなかった。
そんな中、代表合宿中に宿舎を抜けだし、キャバレーで騒いだ選手たちの行ないが週刊誌によって明らかになる。これをチームに対する裏切り行為と受け取ったジーコ監督は激怒し、当該の7選手を一時代表から外すことになる。特に問題視された大久保は、その後ジーコジャパンでほとんど起用されなくなる。
鈴木啓太、松井大輔、高松大樹らも加わった五輪代表は、2次予選を順当に勝ち抜き最終予選へ進む。当初最終予選は03年の秋に開かれる予定だったが、イラク戦争とSARS騒動の影響で04年の3月に延期となっていた。
この延期のおかげで日本は、10月に日本国籍を得た田中マルクス闘莉王や、Wユース選手権を終えた徳永悠平、今野泰幸、平山相太らの重要な選手がチームに参加することになった。
最終予選は12チームが3グループに別れ、各組1位が五輪出場権を得るという形式だった。日本の対戦相手は、バーレーン、レバノン、UAE。対戦は各チーム2試合ずつ、前半はUEA・後半は日本で試合を行なうという2ラウンド制だった。
日本は初戦のバーレーン戦で0-0と引き分けるが、次のレバノン戦には4-0と快勝する。だが3戦目のUAE戦を前に、日本は予想外のアクシデントに見舞われた。試合前日の午後、原因不明の腹痛や下痢を訴える選手が続出。日本チームは、選手の半数が試合当日の朝まで点滴を受けるという、最悪の状態に追い込まれたのだ。
だが試合が始まると、日本選手は気力を振り絞り戦った。UAEの猛攻に耐えた84分、田中達也がドリブルからシュートを放つと、そのこぼれ球を高松がゴールへ放り込んだ。その3分後にも田中達が自らシュートを決め、2-0と勝利を収めたのだった。
9日後チームは日本に戻り、第2ラウンドを戦う。だが充分に回復していない選手たちはホームの試合で気が緩んでしまったのか、バーレーンに0-1で敗れてしまう。この時点で、日本・バーレーン・UAEが勝ち点で並ぶが、日本は得失点差で首位に立っていた。続くレバノン戦にはA代表を離れたばかりの大久保が先発する。
試合開始14分、ドリブルを仕掛けた大久保が倒されると、日本はFKのチャンスを得た。そのチャンスをキッカーの阿部が決め先制点を奪うが、67分UAEに同点とされてしまう。だがその2分後、大久保が再び鋭い動きを見せ、ヘディングで勝ち越し点を奪った。2-1と勝利し勝ち点3を得た日本は、五輪出場こそ決められなかったが圧倒的に有利な立場となった。
最終となるUAE戦、日本は落ち着いた試合運びを見せ、大久保も2得点を挙げるなど活躍した。山本監督は一人の交代枠も使うことなく、3-0と余裕で試合を終わらせた。こうして日本は、3大会連続の五輪出場を決めたのである。
4月から6月にかけ、ジーコジャパンは欧州遠征を行なった。この遠征で日本代表は、ハンガリー、チェコ、イングランドなどの強豪と互角にわたり合う。特にチェコ戦では、久保竜彦がスーパーシュートを決め1-0で勝利する。この遠征での試合内容が良かったため、ジーコに向けられていた批判は一時収まることになる。
7月には中国でアジアカップが開催された。この頃の中国には反日感情が湧き上がっており、日本代表には激しいブーイングが浴びせられていた。しかもこの大会に中田英と小野は不参加で、高原と稲本も病気や骨折で欠場を余儀なくされていた。もっともこの完全アウェイ状態と主力選手の不在は、返ってチームにまとまりを生んだ。
初戦はオーマンを相手に苦戦するも、中村がテクニカルなタッチからシュートを決め1-0と辛勝する。そして続くタイを4-1で打ち破り決勝T進出を決めると、第3節のイラン戦は0-0で引き分けグループ1位を決めた。日本は初戦から高温多湿の重慶でのプレーが続いており、疲労は蓄積していった。
決勝T1回戦の相手はヨルダン。ヨルダンが果敢に攻めてきたのに対し、日本は疲れからか動きが鈍く1点を先制されてしまう。日本は体勢を立て直しすぐに追いついたものの、試合は膠着状態に陥り1-1のまま延長戦も終了してしまう。
PK戦となり、先攻の日本は一人目の中村がボールをセットする。レフティーの中村がボールを蹴ろうとした瞬間、足元の芝がめくれてボールはゴールの上を越えていった。続くヨルダンの1人目がPKを決めた後、日本の2人目は三都主アレッサンドロ。三都主はボール廻りの芝を踏み固めるが、やはり中村と同じく軸足を滑らせボールを吹かしてしまった。
その直後キャプテン宮本が主審に抗議し、使用ゴールを反対サイドに替えることが認められる。しかし3人ずつが蹴りヨルダンは全員が成功、2人が失敗した日本は1-3と追い込まれた。この時ヨルダンには、早くも勝ったかのようなムードが漂っていた。
しかしそのヨルダンの前に立ち塞がったのが、日本の守護神川口能活だった。川口がヨルダン4人目のシュートを指先で防ぐと、5人目はプレッシャーを感じたのかゴール枠を外した。日本の6人目、中澤佑二はシュートを止められるものの、そのあと川口も神業のように反応しヨルダンのボールを弾き出す。
7人目宮本のシュートが相手キーパの逆を突き、日本が初めてこのPK戦で4-3とリードする。そしてヨルダンの7人目のキッカーはゴール左隅を狙うも、ボールはポストに跳ね返された。「重慶の奇跡」と呼ばれるこの勝利で、日本は次の試合に進むことになった。
準決勝バーレーン戦も苦しい試合となった。日本はわずか開始6分で先制点を入れられ、しかも40分には遠藤保仁が不可解な警告を受け退場となってしまう。1人少なくなった日本はそれでも後半に反撃を開始、2点を入れ返して逆転する。だがそのあとバーレーンの逆襲を受け、立て続けに失点を喫して2－3と再びリードを許す。
その後も日本の劣勢は続いていたが、ロスタイムに入ろうとしていた90分日本にチャンスが訪れた。相手のミスから玉田圭司がボールを奪うと、そこからゴール前にパスが繋がる。パスを受けた三都主がゴールへ低いクロスを送ると、中澤が飛び込み同点弾となるヘディングシュートを決めた。
延長戦に入り双方死闘を繰り広げる中、玉田が競り勝ちボールを奪う。そしてそのままゴールに向かってドリブルすると、キーパの脇を抜けるシュートをネットへ突き刺した。こうして再逆転を果たした日本は4-2と勝利し前大会に続いて決勝へ進出することになった。
決勝の相手は開催国の中国。試合は北京のスタジアムに6万5千の集め行なわれた。もちろん会場は中国を応援する観客で一杯になり、日本チームには罵声が向けられる。だがその事が日本チームを結束させ、中国チームには過大なプレッシャーを負わせることになった。
前半こそ1-1と互角の勝負だったが、後半日本勝ち越し点を決め2-1とリードする。そのあと日本は落ち着いた試合運びで中国を寄せ付けず、90分にも得点し3-1と勝利した。詰めかけた中国の観衆を静かにさせるような快勝だった。苦闘続きの大会だったが、日本は逆境を跳ね返しアジアカップ2連覇を果たした。
