要約

  • SMTは、複数の独立したハードウェアコンテキストの命令を、一つの幅広いスーパースカラ・コアの資源へ同じサイクルに発行する。スレッド並列性で命令並列性の不足を補う仕組みであり、物理コアを追加するものではない。
  • 1995年の大きな改善値は、Alpha 21164を基にした拡張モデル、最大8コンテキスト、SPEC92のマルチプログラム負荷による総スループットの結果だった。単一スレッドの高速化や、常に公平・省電力・安全であることを約束してはいない。

幅があっても仕事が足りない

スーパースカラ・プロセッサは一サイクルに複数命令を発行しようとする。しかし依存関係、分岐、キャッシュミスがあれば、一つのスレッドから用意できる独立命令は減る。Dean Tullsen、Susan Eggers、Henry Levyは、動いているサイクル内の空きを「水平の無駄」、命令を一つも発行できないサイクルを「垂直の無駄」と整理した。

1995年のISCA論文は候補の母集団を広げた。複数スレッドのアーキテクチャ状態を保持し、その命令を同時に選べるようにする。実行器、キュー、キャッシュ、分岐予測器の多くは一つのコアで共有したままだ。命令レベル並列性は一スレッドの内部、スレッドレベル並列性は独立した流れの間にある。マルチコアはより多くの資源を物理的に分ける。したがって8個のSMTコンテキストは8コアではない。

1995年の数字が表す範囲

最初の研究は製品ではなくシミュレーションだった。300 MHzのAlpha 21164風モデルを広げ、代表構成では10個の機能ユニット、サイクル当たり最大8命令、最大8コンテキストを置いた。異なるSPEC92プログラムを一緒に走らせたのは、同期やアプリケーション並列化ではなく、純粋な総処理量を測るためだった。

各プログラムは単一スレッド性能を高める設定でコンパイルされ、弱い基準を使ってSMTを有利に見せることも避けた。検討した構成では、幅広いスーパースカラに対して3.2倍から4.2倍、最大6.3 IPCを記録した。結論は、当該モデルで幅広いスーパースカラの最大約4倍、細粒度マルチスレッディングの約2倍のスループットだった。

これは一つの仕事が4倍速く終わるという意味ではない。周波数、発行幅、メモリ階層、電力、プログラムの組み合わせが変われば結論も変わる。

共有には配分規則が必要になる

複数スレッドが同じ発行枠を求めれば、どれを選ぶかが動作の一部になる。1995年論文では厳格な優先順位と、より公平な方式を比較した。総スループットが近くても個々の進み方は異なる。8スレッドの一例では、最低優先度のプログラムは最高優先度の55%の速度しか得られなかった。優先された側も、共有キャッシュ、TLB、予測器の影響で約35%遅くなった。

制御面は取出し、キュー占有、レジスタ、実行器、メモリ帯域に広がる。平均処理量が上がっても、ある要求のテール遅延や進捗の予測可能性は悪化し得る。

実装できる構成へ

1996年の論文では、Tullsen、Eggers、Joel Emer、Levy、Jack Lo、Rebecca Stammが、通常の幅広いスーパースカラを拡張できる構成へ進めた。ICOUNT方式は、すでにプロセッサ内にある命令が少ないスレッドを優先し、一つのコンテキストが窓を占有しにくくした。8スレッドで5.4 IPC、同等のスーパースカラの2.5倍、単一スレッドの低下は2%未満と報告した。

1997年のワシントン大学報告はSPEC95とSPLASH-2を追加し、8スレッドでマルチプログラム約6.2 IPC、並列プログラム約6.1 IPCを示した。同時にキャッシュ、TLB、予測器の競合も記録した。モデル化したチップ・マルチプロセッサとの比較で、動的共有は遊休資源を回収し、静的分割は別の分離境界を提供するという交換条件が明確になった。

チームの功績として読む

ワシントン大学のプロジェクトページはEggersとLevyを教員、TullsenとLoを学生、EmerとStammをDigital Equipment Corporationの共同研究者としている。Eggersは中心的な貢献者だが、単独の発明者ではない。その後Intelは基本原理をHyper-Threadingとして商用化した。1995年論文は2010年にISCA Test of Timeの評価を受け、Eggersは2018年、SMTアーキテクチャとマルチプロセッサの共有・一貫性への貢献でEckert-Mauchly Awardを受賞した。

影響の大きさは、あらゆる負荷で有効だという証明ではない。SMTの持続的な教訓は、使われていない機会を競合する共有容量に変えることだ。価値は機械、同居する仕事、測る指標で決まる。

出典