物語の舞台は、スペインがフランスとの戦争に終止符を打ったばかりの頃。スペイン王位継承者のドン・カルロスがフランス国王の娘エリザベートと結婚することが両国間で合意されていた。
第一幕
ドン・カルロスは、結婚する予定の女性に会いたいと思っていた。彼はフランスに行き、エリザベートが参加している王族の狩りに密かに参加する。エリザベートとそのページは他の者とはぐれてしまう。カルロスは彼女に話しかけ、彼女を家に連れて帰ることを申し出ます。エリザベートはカルロスに結婚相手の王子のことを尋ねます。カルロスは、王子は優しく、彼女に恋をしているので、彼女は心配する必要はないと言います。そして、エリザベートに王子の写真を見せ、エリザベートはもちろん、それが彼女が話しているのが王子であることに気づきます。二人は愛のデュエットを歌います。
そこへスペインの役人たちがやってきて、エリザベートに、彼女が王子と結婚しないことが決定したこと、つまり、エリザベートは父であるスペイン国王と結婚することになったことを告げます。恋人同士の二人はこの知らせを聞いて落胆します。群衆はエリザベートにスペイン王との結婚に同意して戦争を止めるように懇願します。結局、エリザベートは同意します。
第二幕
ドン・カルロスは、自分の不幸の中で静かになるために修道院に行ってしまった。彼の祖父、シャルル5世はこの修道院で晩年を過ごしていた。僧侶が彼に話しかけてきます。カルロスはその僧侶が祖父に似ていると思った。
友人のロドリゲが来て、カルロスは喜びでいっぱいになる。彼はフランドルから戻ってきたばかりで、まだ多くの戦いが続いていた。カルロスは、父と結婚してスペインの女王となったエリザベートに恋をしているという秘密を話します。ロドリゲは彼に、フランダースの貧しい人々を助けるために時間を費やすべきだと告げる。王と王妃は墓の前を通り過ぎる。
王妃が教会を出ると、王妃は婦人たちが待っている庭に出ます。使者が彼女にパリの母からの手紙を渡しますが、同時にカルロスからの手紙も密かに渡されます。ロドリゲは王妃が手紙を読んでいる間、王妃の待つ女官エボリに静かに話しかける。ロドリゲは王妃に、カルロスに話をさせるように国王を説得してほしいと頼む。エボリはカルロスに恋をしている。エボリはカルロスが王妃の前にいるときに、カルロスがどのように動揺しているかに気づいており、カルロスが彼女（エボリ）を愛しているからだと考えていた。
カルロスはエリザベートと個人的に会う機会を与えられる。彼は冷静にエリザベートに、国王を説得して自分をフランドルに送ることはできないかと尋ねる。しかし、彼は冷静ではなく、自分に愛の感情を示さないエリザベートに怒りを感じ始めます。彼女は王妃になった今、それが彼女の義務だと彼に告げる。カルロスは理解していますが、まだ彼女に恋をしています。彼は彼女の足元に落ちる。彼は彼女をつかみ、彼女への愛を宣言するが、女王は彼から自分自身を引き裂き、彼は絶望の中で突進した。
王様が教会から出てくる。彼は妻が一人になってしまったことをとても悲しんでいます。彼はお待ちかねの女性に立ち去るように言います。女王は彼女を慰める。そして、王妃とお嬢様たちは出て行きました。
ロドリゲは国王に、今も飢えで死にかけているフランドルの民と戦うのをやめてほしいと頼む。国王は、彼らは忠実ではなく、罰を受けるに値すると言う。王はロドリゲに、エリザベートとカルロスの間で起こっていることを恐れていると告げる。ロドリゲは異端審問に気をつけろと告げる。
第三幕
マドリッドの宮殿で仮面舞踏会が行われています。カルロスは王妃の庭で待っています。そこへ、他の人と同じように仮面をつけた女性がやってきます。彼はそれが王妃だと思い、王妃を愛していることを伝えます。女性がマスクを取ると、彼はそれがエボニであることに気づきます。彼女は女王を愛していると彼を非難する。その瞬間にロドリゲが来る。彼はカルロスがよくないと彼が話していることを理解していないことをEboniに言う。しかし、エボニはだまされていないと彼らの愛の関係を台無しにすることを計画しています。
第二幕の舞台はマドリッドの広場。オートダフェが準備されています。スペインの異端審問時代には、ローマ・カトリック教会に賛同しない者は焼き殺されるという儀式が行われていた。僧侶が入ってきて、焼かれる不幸な人たちが続いています。人々はスペインの栄光について歌っています。フィリップ王が現れ、ローマ・カトリック教会を敵視する者には戦うと繰り返す。カルロスを含む6人の人々が現れ、王の足元に身を投げ出して、王にフラマン人を殺すのを止めてほしいと懇願する。国王は聞き入れようとしない。群衆の中には王を支持する者もいますが、他の者は王に慈悲を乞うています。カルロスは父に、自分のためにフランドルを治めることを許してほしいと頼みます。王は、これがカルロスとフランドル人の反乱のきっかけになると考えていたため、これを許しませんでした。カルロスは絶望します。彼は剣を抜き、フランドルを救うと言います。国王の前でこのような振る舞いをするカルロスの姿を見て、群衆は恐怖におののきます。王は兵士たちに命じてカルロスから剣を奪い取るが、誰も従わない。結局、ロドリゲ（これでは自分が不利になることを悟った）は、冷静にカルロスに剣を求めることで事態を救う。カルロスはそれを手渡し、ロドリゲはそれを王に渡す。僧侶たちはさらに処理を進め、天からの声が来世の平和を約束する。
第四幕
王は教会に一人でいる。素晴らしいアリアの中で、彼は妻が自分を愛していないように見えることの悲しみを歌っています。大審問官が入ってくる。彼はとても年老いていて、目が見えません。国王は息子のことを話し、カルロスを許すべきか、死刑にすべきかを奉行に尋ねます。奉行は、殺されるべきはロドリゲだと答える。王はあえて反対する。奉行は王に、自分の心を神に委ねていないことを告げる。奉行は行く。
王妃は駆けつけ、部屋から消えた宝石の入った棺を探すのを手伝ってほしいと王に頼みます。王はそれがテーブルの上にあることを彼女に見せました。王は彼女にそれを開けるように言いました。彼女はそれを開けます。上部にはカルロスの肖像画が描かれていました。王は非常に怒って、彼女を不倫の罪で告発した。彼女は気を失います。王はエボリとロドリゲに助けを求める。王は疑いをかけられたことに申し訳なさを感じますが、カルロスとエリザベートに嫉妬して棺を奪ったのは彼女だったので、エボリはさらに申し訳なさを感じます。エボリは王に宝石箱の中を見るべきだと提案したのだ。ロドリゲは、カルロスの代わりに自分が殺されることを申し出ることでしか友人を救えないと感じます。王とロドリゲは去っていく。エボニは復活した王妃の足元に身を投げ、王と寝たことで自分自身が不倫の罪を犯したことを告白する。エリザベートは冷静なままでしたが、エボニに永遠に彼女から離れて尼僧院で暮らすように言います。エボニが一人になると、彼女はひどく不幸な気持ちを表現します。尼僧院に行く前に、彼女にはもう一つやるべきことがある。それはカルロスを死の淵から救うことだった。
幕の第二場面では、刑務所にいるカルロスの姿が描かれている。そこへロドリゲがやってくる。彼はカルロスに宛てたフラマン語の手紙が彼の所持品から発見されたことを知っている。何者かが入ってきて、ロドリゲを殺します。彼が死ぬとき、彼はカルロスに、次の日に女王が修道院の外で彼を待っていて、最後に彼に会うだろうと伝えます。彼は死ぬ。
第四幕がここで終わることもあるが、一部の演目では、王が息子に剣を返そうとするが、カルロスが友人を殺したと告発するシーンが続く。エボリをはじめとする一団が牢屋に入り、カルロスを自由にしてくれと王に叫ぶ。そこに奉行が現れる。彼は群衆に、神の御心に逆らうのは悪いことだと怒りを込めて告げる。奉行は彼ら全員に土下座して悔い改めるように言う。
アクトＶ
エリザベートはシャルル5世の墓の前に跪き、フランスでの失われた青春を歌います（第1幕の音楽の一部がここに戻ってきます）。エリザベートは平和を祈ります。そして、エリザベートとカルロスは最後に出会い（オペラ中3回目のデュエット）、より幸せな時代を願っています。王と奉行が隠れていました。そこに彼らが現れ、カルロスを捕らえようとします。衛兵は彼を捕まえるように言われますが、カルロスは自分の身を守ります。すると突然、シャルル5世（あるいは変装した僧侶）の声が聞こえてきます。彼は孫を回廊の安全な場所に連れて行く。
