要約
- HealthCare.gov は分散型の連邦マーケットプレイスへの公共の入り口であり、自己完結型の小売ウェブサイトではなかった。その立ち上げは、アカウント作成、本人確認・適格性サービス、保険プランデータ、保険者取引、州・連邦の接続、および運用プロセスが連携して機能することに依存していた。
- 2013年10月の機能不全は、公共サービスの継続性の失敗であった。人々が保険プランを比較し登録を完了する経路を中断したが、すべてのユーザーが補償を失ったり医学的被害を受けたわけではない。
- 連邦の監視機関は後に、要件が変更され、調達計画が弱く、コストが拡大し、テストが不十分で、スケジュールが信頼できず、政府と請負業者間の意思決定権限が固定された重要度の高い立ち上げのために十分に規律されていなかったことを発見した。
- 復旧は重要であった。キャパシティ、コード品質、運用指揮、請負業者契約が変更され、最も顕著な問題は減少した。この復旧は評価されるべきであるが、当初の準備判断が健全であった証拠として扱ってはならない。
- 永続的な教訓は説明責任モデルである。エンドツーエンドのサービスを定義し、単一の統合責任機関を割り当て、リリース決定を証拠に結び付け、インターフェース間のトレーサビリティを保持し、ホームページの可用性ではなく成功した成果を測定することである。
玄関口はサービスそのものであった
2013年10月1日、HealthCare.gov は、米国政府が固定された日に開設しようとした中で最も重要なデジタル玄関口の一つとなった。連邦マーケットプレイスは、参加州の人々がアカウントを作成し、世帯情報を提出し、保険支払い可能プログラムの対象となるかどうかを判断し、民間プランを比較して登録できるようにすることを目的としていた。また、保険者、州システム、連邦データソースと情報を交換することも期待されていた。ユーザーにとって、これらの活動は一つのサービスに属しているように見えた。政府内部では、それらは組織、契約、技術の境界を越えていた。
公衆の経験と提供組織との間のこの違いが、立ち上げを理解するための出発点である。消費者は調達戦略、データサービス契約、アカウントモジュール、登録トランザクションを別々のプログラムとして経験するわけではない。消費者は補償を取得するための一つの試みを経験する。アカウントが作成できず、適格性応答が遅れ、プランが選択できず、登録データが正しく保険者に届かない場合、その人物にとってサービスは成功していない。一つのコンポーネントの緑色のステータスは、ジャーニーの終わりでの赤い結果を打ち消すことはできない。
立ち上げは時として、遅いまたは利用できないウェブサイトのイメージに還元される。そのイメージは印象的だが、分析的に不完全である。メディケア・メディケイド・サービスセンター(CMS)は、自らのマーケットプレイスを運営しない州のために連邦政府によるマーケットプレイスを構築していた。HealthCare.gov は消費者ポータルとして機能したが、サポート環境にはアカウント、本人確認、適格性、登録のためのシステム、および連邦データサービスハブが含まれていた。民間保険者もプロセスのエンドポイントであった。立ち上げリスクは個々のアプリケーションと同様に接続に存在した。
また、出来事を誇張すべきではない。深刻なアクセスとパフォーマンスの問題は文書化されている。それら自体で、すべての失敗したセッションが補償の喪失、ケアの拒否、または経済的損害を生み出したことを証明するものではない。後のセキュリティレビューは重要な弱点と対応が必要なインシデントを発見したが、ここで引用される公開証拠は、立ち上げの話を確認された大量の機密データの盗難の主張に変換することを支持しない。説明責任は精度から始まる。サービス中断と管理上の弱点を強く記述しながら、文書化された失敗と可能性のある下流の被害との間の境界を保持することである。
法定の期限が統合の期限となった
医療費負担適正化法(Affordable Care Act)は、健康保険マーケットプレイスの設立を義務付け、新しいマーケットプレイスを通じた登録は2014年に補償が発効する前に開始される予定であった。州は独自のマーケットプレイスを設立でき、CMS は設立しなかった州のために連邦マーケットプレイスを担当した。この構造は、連邦ソリューションの範囲が一部は州の決定に依存することを意味した。また、法律と政策で定められた日付が、提供組織にとって、多くの未完成の技術的・運用上の関係が一つの機能するサービスにならなければならない日付となった。
固定された日付は本質的に無謀ではない。選挙、税務申告シーズン、学期、登録期間はすべて、簡単に動かせない日付に公共システムが機能することを要求する。説明責任の問題は、固定された日付が管理された計画の代わりとして扱われるときに生じる。期限は作業に集中させることができるが、未解決の要件を安定させたり、不足するテスト証拠を作成したり、統合の欠陥に対する権限を決定したりすることはできない。日付が動かせない場合、範囲、順序付け、フォールバックチャネル、受入基準には、より少ない規律ではなく、より多くの規律が必要である。
CMS は2011年に連邦マーケットプレイスの主要な契約を開始した。プログラムは、政策、州の参加、実施の詳細が発展するにつれて進化した。GAO(米国会計検査院)は後に、調達の初期に主要な技術要件が完全には知られていなかったこと、特にマーケットプレイスの人口と参加州に関する重要な仮定が含まれていたことを発見した。CMS は中心的な作業にコスト償還契約を使用し、同機関にとって比較的新しい段階的開発アプローチを採用した。これらの選択は不確実な環境では適切であり得るが、要件、統合、コスト、パフォーマンスを積極的に管理するためのより多くの責任を政府に移す。
連邦マーケットプレイスには複合的な使命もあった。それは単に保険商品に関する情報を公開するだけではなかった。ユーザーデータを受け入れ、適格性関連サービスを呼び出すか調整し、プラン選択肢を提示し、その結果が連邦システム外で重要である取引をサポートしなければならなかった。追加の依存関係ごとに、準備の意味が変わった。コンテンツページは、ロードされて正しく表示されるかどうかで判断できる。マーケットプレイスサービスは、意図されたユーザーが有効なジャーニーを完了できるか、結果の情報が正確であるか、下流の組織がそれに基づいて行動できるかどうかで判断されなければならない。
立ち上げまでに、法定日、公衆の期待、運用サービスが融合していた。これにより、遅延または制限された開始は政治的・制度的にコストがかかるものとなった。しかし、十分な証拠なしに開始することの代償も高めた。中心的なガバナンスの問いは、日付が重要かどうかではなかった。それは、リーダーシップがその日付に期待される規模で、完全なチェーン全体で何が機能するかを知るための信頼できる方法を作り出していたかどうかであった。
要件は書類ではなく管理システムであった
複雑な公共プログラムは、要件を「本当の」エンジニアリングに先行する文書として語ることが多い。HealthCare.gov は、その見解がなぜ危険かを示している。要件は、ポリシーの意図、ユーザージャーニー、インターフェース、契約、テスト、受入を結びつける管理体制である。適格性交換の要件が変更された場合、その変更は連邦コンポーネント、州の接続、保険者のワークフロー、テストケース、トレーニング資料、スケジュールに影響を与える可能性がある。それらの影響が追跡されなければ、各チームは局所的には妥当な成果を提供するかもしれないが、信頼できるサービスには構成されない。
GAO の後のシステム開発レビューは、要件管理の弱点を発見した。要件は一貫して管理、承認、追跡されておらず、リーダーシップに提供されたシステムが意図された機能と一致しているという保証を与えていなかった。この発見は、文書の質に関する苦情よりも重要である。トレーサビリティは、プログラムがどのコードとインターフェースがポリシールールを実装しているか、どのテストがルールを実証しているか、どの欠陥がそれを脅かしているか、そして誰が逸脱を承認したかを知る方法である。
変更される要件だけが問題ではなかった。決定と指示は、一貫した明確な承認やコスト・スケジュール管理なしに請負業者に届くことがあった。GAO は、追加作業に対する不明確な権限が遅延や無駄な努力に寄与したと報告した。複数請負業者の環境では、非公式なスピードが公式な曖昧さを生み出す可能性がある。技術リーダーは緊急の指示が必要と考えるかもしれない。請負業者は日付を守るために行動するかもしれない。契約組織は後で、範囲、資金、受入が同じ経路をたどらなかったことを発見する。見かけ上の近道はその後、調整コストを増加させる。
要件の規律は、事実が変化している間にプログラムを凍結することを意味しない。それは変更を可視化し管理可能にすることを意味する。効果的な変更記録は、理由、影響を受けるユーザージャーニー、インターフェース、セキュリティへの影響、テスト作業、コスト、スケジュール、責任ある承認者を特定する。必須の立ち上げ機能と後で順序付けできる機能強化を区別する。どの以前の仮定がもはや有効でないかを明確にする。最も重要なことは、統合プログラムに「完了」の最新の定義を与えることである。
連邦マーケットプレイスのようなサービスにとって、最も有用な要件はエンドツーエンドで成果志向である。「アカウントサービスが応答する」は必要だが不十分である。「適格なユーザーがアカウントを作成し、本人確認を確立し、申請書を提出し、適格性結果を受け取り、該当するプランを比較し、保険者に正確に届く登録取引を完了できる」が公共の成果に近い。各コンポーネント要件は、そのチェーンにマッピングされるべきである。一見二次的なインターフェースの欠陥も、成果を壊すため、立ち上げ妨害要因として認識される可能性がある。
HealthCare.gov の経験は、要件管理がエグゼクティブのリスク報告に属することを示している。固定された立ち上げ近くで要件が不安定または追跡不可能なままである場合、問題はエンジニアに限定されない。リーダーは暗黙のうちに、コスト、テストカバレッジ、サービスの振る舞いに関する不確実性を受け入れている。その受入は明示的で、証拠に基づき、緊急時対応策と結び付けられるべきである。
調達の選択が強力な政府統合者の必要性を増幅した
政府プログラムは、作業が専門的な能力を必要とし、調達構造がタスクを分割するため、複数の請負業者を日常的に使用する。複数の供給者はそれ自体が失敗の説明ではない。リスクは、全体のサービスを最適化するための情報と権限を両方持つ当事者がいない場合に現れる。
連邦マーケットプレイスでは、CMS が中心的な責任を保持した。請負業者はモジュールを構築し、インフラを運用し、特定の機能をサポートできたが、公衆はそれらの間で説明責任を委任できなかった。政府は、契約間の優先順位を解決し、インターフェースベースラインを管理し、完全なチェーンをテストし、サービスが準備できているかどうかを決定できる統合権限を必要とした。各請負業者が局所的な作業明細書を満たしながらユーザージャーニーが失敗した場合、プログラムは依然として失敗した。
GAO の調達レビューは、CMS が連邦マーケットプレイスの取り組みに必要な調達戦略を準備せず、品質保証計画を十分に活用しなかったことを発見した。また、選択された中心的な作業の義務の大幅な増加を文書化した。2011年9月から2014年2月の間に、GAO が調査した連邦によるマーケットプレイスのタスクオーダーに関連する義務は約5600万ドルから2億900万ドル以上に増加した。データハブ契約の義務は約3000万ドルから約8500万ドルに増加した。これらの数字は、作業の変化と管理圧力の証拠であり、すべての増加が無駄であったことの証明ではない。複雑なシステムは範囲が拡大するにつれて正当にコストが増加する可能性がある。説明責任の問いは、リーダーが各増加を承認された要件、提供された機能、テストされた公共の価値に結びつけられるかどうかである。
コスト償還契約はその負担を増加させる。作業を最初に正確に特定できない場合には賢明であり得るが、政府は固定価格契約よりも多くのリスクを保持する。効果的な監視、稼得した進捗証拠、技術レビュー、規律あるタスク指示が不可欠となる。プログラムは、努力に対して支払い、最後に統合が行われることを期待するだけで不確実性を管理することはできない。
請負業者のパフォーマンス管理も日付と絡み合った。GAO は、請負業者のパフォーマンスに関する深刻な懸念が遅れて浮上し、CMS が限定的な説明責任措置を取ったと報告した。その理由の一部は、請負業者の交代や混乱が立ち上げスケジュールを危険にさらす可能性があったからである。これはよく知られた継続性の罠である。供給者が期限近くで不可欠になると、顧客の実質的なレバレッジは低下する。提供を維持したいという欲求は是正措置を延期させ、依存を増大させ、後の行動をさらに困難にする。
予防的な管理は攻撃的な罰ではない。それは選択肢を維持することである。プログラムは、早期に成果物を測定し、インターフェースと文書化の義務を執行し、政府の知識を最新に保ち、アーティファクトが供給者間で移転可能であることを確保し、スケジュールが逼迫する前にエスカレーションのトリガーを定義することによって選択肢を維持する。請負業者が品質の敷居を下回った場合、リーダーシップはどの作業を分離できるか、どの支援を追加できるか、どの範囲を延期できるか、どのような交代が必要かを知っているべきである。説明責任は、それが保護することを意図しているサービスを破壊せずに行使できるときに最も強い。
スケジュールは実際の作業を記述している場合にのみ証拠となる
スケジュールは、活動に日付を割り当てるため、管理の印象を作り出すことができる。しかし、依存関係を省略し、工数見積もりがなく、実際の進捗に対して維持されていないスケジュールは信頼できる予測ではない。それは意図のプレゼンテーションである。
GAO は、マーケットプレイス開発の監督が信頼できないスケジュールとプロジェクト文書化および進捗レビューの弱点によって制限されていることを発見した。これらの問題は、作業が高度に統合されていたため重要であった。遅延したインターフェース仕様はシステムテストを圧縮する可能性があった。不足する環境は複数のチームが代替に対してテストする原因となった。遅れたポリシー決定は完成したコードやテストケースを無効にする可能性があった。スケジュールがこれらのリンクを表現しない限り、リーダーシップはマイルストーンが緑色に変わるのを見ながら、蓄積された統合リスクは隠されたままであった。
固定された公共の立ち上げのために、信頼できる統合マスタースケジュールは、要件からビルド、インターフェース検証、セキュリティ評価、パフォーマンステスト、運用リハーサル、本番準備までのクリティカルパスを公開すべきである。コンポーネントがいつ完了する予定かだけでなく、どの証拠が次の活動を開始することを許可するかも示すべきである。「テスト完了」というラベルの日付は、システムが現実的な規模でテストされていなかったり、重要な機能が欠けていたり、欠陥が受け入れられた処分なしに残っている場合、ガバナンス上の価値はほとんどない。
スケジュールの健全性は、日付の信頼性からも分離されるべきである。チームは集中的に作業し、高い完了率を報告する一方で、安全な立ち上げの確率は低下する可能性がある。システム的な欠陥の遅発性発見は、複数のモジュールにわたる手直しを必要とする場合がある。リーダーは、要件の変動性、未解決のインターフェース決定、クリティカルジャーニーに対するテストカバレッジ、欠陥の到着とクローズ率、環境の安定性、キャパシティヘッドルーム、重要なリスクの経過期間などの尺度を必要とする。これらの指標は、残りの作業が収束しているかどうかを明らかにする。
教訓は、公共プログラムが何年も前にすべてを知っていなければならないということではない。不確実性が作業としてスケジュールされなければならないということである。プロトタイプ、統合スパイク、負荷モデルの検証、ポリシー決定の期限はすべて不確実性を低減できる。これらが省略された場合、不確実性は消えず、時間と選択肢が最も乏しい最終統合のときに現れる。
テストはコンポーネントの集まりではなく、マーケットプレイスを証明しなければならなかった
テストは、提供組織が主張を証拠に変換する場所である。HealthCare.gov については、その証拠はいくつかの異なる質問に答える必要があった。個々の機能は仕様通りに動作したか?インターフェースは正しいデータを交換したか?代表的なユーザーはエンドツーエンドのジャーニーを完了できたか?サービスは期待される需要に耐えられるか?オペレーターはそれを観察し回復できたか?セキュリティとプライバシー管理は効果的に機能していたか?立ち上げ決定はそれらすべてにわたって一貫した回答を必要とした。
証拠は十分に一貫していなかった。GAO は、マーケットプレイスをサポートするシステムが立ち上げ前に完全にテストされていなかったと報告した。テスト文書には常に明確な合格基準が含まれているわけではなく、計画された機能は不完全であった。キャパシティ計画は不十分で、コーディングエラーは展開前に完全に修正されておらず、初期サービスは広範なパフォーマンス問題に遭遇した。
明確な合格基準の欠如は特に有害である。それらがなければ、テストの結果の意味が論争されてもテストは「完了」できる。あるグループは部分的なジャーニーを成功と見なすかもしれない。別のグループは応答時間の低下を受け入れるかもしれない。三番目のグループは依存関係が利用できなかったため、失敗しているインターフェースを除外するかもしれない。ダッシュボードは準備を証明せずに活動を報告できる。
規模はさらに状況を複雑にする。サービスは少数のテスターでは機能するが、多くのユーザーが同時にアカウントを作成し、認証し、データを要求すると失敗する可能性がある。キャパシティは単なるハードウェアの見積もりではない。ユーザーの行動、再試行パターン、低速な下流サービス、データベースの競合、ロギング、キューの成長、エラーハンドリングが相互作用する。ページが失敗すると、ユーザーはリフレッシュまたは再起動し、より多くの作業を生成し、フィードバックループを生み出す。パフォーマンステストは、名目上のトランザクション数だけでなく、信頼できる需要モデルと障害シナリオを必要とする。
エンドツーエンドのテストはまた、組織の境界に直面する。連邦チームは、現実的なテストに必要な州システム、保険者エンドポイント、または外部データソースを制御できない場合がある。それは依存関係を任意にするわけではない。それはプログラムが認定されたシミュレーター、調整されたテストウィンドウ、インターフェース適合証拠、および証明されていないものの明確な記録を必要とすることを意味する。利用できないパートナーは、報告から消えるのではなく、準備の表明された信頼性を低下させるべきである。
したがって、結果の大きい立ち上げゲートはカバレッジマトリックスを使用すべきである。一方の軸にはクリティカルユーザージャーニーと運用シナリオがある。もう一方の軸には、環境、規模レベル、インターフェース、プライバシーとセキュリティ管理、復旧条件がある。各セルは証拠、欠陥、受け入れられた制限、または緊急時対応策を指す。リーダーは、「準備完了」がサービス全体が実証されたことを意味するのか、単にチームが割り当てられたテストカレンダーを完了したことを意味するのかを見ることができる。
準備のプロセスは結果を制御するには遅すぎた
ガバナンスは、決定を変更できる場合にのみ効果的である。組織がすべての代替案を使い果たした後に行われる準備レビューは、リスクを受け入れるための儀式となる。
GAO の調達レビューは、連邦マーケットプレイスの準備評価が2013年3月から9月に移動し、10月の開始のわずか数週間前であったことを発見した。必要な承認はすべて得られておらず、サービスはパフォーマンス要件が満たされたことの検証なしに開始された。この順序は構造的な問題を明らかにしている。正式なゲートは、遅延または縮小を非常に困難にする範囲、契約、スケジュールの決定の数か月後に位置していた。
効果的な準備プロセスは、最終会議のずっと前から始まる。立ち上げに不可欠な機能、証拠所有者、受入敷居、決定日を定義する。アーキテクチャとインターフェースの準備、機能の完全性、セキュリティ承認、パフォーマンスの信頼性、運用リハーサル、最終本番承認というプログレッシブゲートを作成する。早期のゲートでの失敗は、修正、範囲の縮小、またはフォールバックチャネルの強化のための時間がまだあるうちに、既知の対応をトリガーする。
決定フォーラムは独立性も必要とする。提供チームは当然、問題を解決し勢いを維持することに焦点を当てる。上級スポンサーは政策と公約に直面する。請負業者は商業的インセンティブに直面する。これらの視点のどれも不適切ではないが、それらは楽観主義に結合する可能性がある。準備権限は、実際に何が実証されたかを尋ね、エンジニアリング予測をテスト結果から区別し、異議を記録できるべきである。
リスク受入は公共の結果を指名しなければならない。「パフォーマンスリスク受け入れ済み」はあまりにも抽象的である。有用な記録は、アカウント作成が特定の負荷で実証されたこと、ピーク需要に関する不確実性が残っていること、スロットリングと待合室設計が利用可能であること、コールセンター需要が増加する可能性があること、指名されたエグゼクティブが残余リスクを受け入れることを述べるかもしれない。そのような記録は監視を可能にし、緩和策に焦点を当てる。
HealthCare.gov の立ち上げは、リーダーに会議が不足していたために失敗したわけではない。一部は、ガバナンス情報とタイミングが稼働決定に対する十分に強い管理を生み出さなかったために失敗した。この区別は、正式な立ち上げチェックリストを持つすべての機関にとって重要である。問題はボックスがレビューされたかどうかではない。満たされていないボックスがリリースを停止または再形成できるかどうかである。
ユーザーが見たものと運用が学ばなければならなかったこと
登録が開始されたとき、多くのユーザーは HealthCare.gov へのアクセスと使用に困難を経験した。アカウント作成やその他の機能が問題を抱えた。初期のユーザー体験は、より深い開発と統合の問題の目に見える現れとなった。
公共デジタルサービスは、集計可用性の背後に失敗を隠すことができる。ホームページはロードされるが、ユーザーはアカウントを作成できない。申請書は送信されるが、適格性応答が間違っていたり遅れたりする。プラン選択は完了したように見えるが、下流の登録記録は調整を必要とする。したがって、最も有用な立ち上げ指標はユーザーの成果を追跡する。成功したアカウント作成、完了した申請書、有効な適格性決定、完了したプラン選択、正確な保険者取引、各ジャーニーに必要な時間である。
エラー指標も同様の注意が必要である。一般的なエラー率は、重要なステップでの集中を隠すことができる。オペレーターはジャーニー、インターフェース、ユーザーコホートごとにエラー予算とキューを必要とする。一時的な技術的再試行と手動修正が必要な記録を区別する必要がある。登録サービスでは、未解決の記録は運用上の負債である。それらは信頼できる真実の状態を待っている人々と組織を表す。
開設はまた、技術的な困難がどれほど迅速に制度的な困難になるかを示した。ユーザーはどの請負業者またはコンポーネントが責任かを知ることができなかった。彼らは期待通りに機能しなかった政府の約束を見た。議会の公聴会、監察官の精査、マスコミの注目が続いた。これは公共技術が野心的なサービスを避けるべきだという議論ではない。それはサービス信頼性が制度的正当性の一部であるという議論である。公共プログラムへの参加がデジタルチャネルに依存する場合、そのチャネルの信頼性と理解しやすさは制度自体への信頼に影響を与える。
コミュニケーションはそのような状況で運用上の管理となる。ユーザーは再試行するか、待つか、コールセンターを使用するか、紙の申請書を提出するか、別のステップを踏むかを知る必要がある。サポートスタッフは一貫した最新のガイダンスを必要とする。保険者と州はインシデントと調整情報を必要とする。リーダーは正直な尺度を必要とする。コミュニケーションがエンジニアが障害を理解する前に解決を約束する場合、トラフィックを増やし信頼を損なう可能性がある。あまりにも曖昧な場合、ユーザーは自分の利益を守ることができない。
正しい基準は完全な先見性ではない。それは、影響を受けるジャーニーを特定し、被害を封じ込め、使用可能な代替手段を提供し、不完全な取引を調整し、確実性を発明せずに既知のことを説明できるサービス組織である。
復旧には異なる運用モデルが必要であった
立ち上げの記録は2013年10月で終わるべきではない。CMS とそのパートナーは実質的な是正措置を取った。キャパシティは増加した。コード品質レビューは拡大した。新しい主要請負業者契約が確立された。運用の焦点はサービスの安定化と欠陥の解決に移行した。GAO は後に、広範な問題が大幅に減少したと報告した。
この復旧は二つの理由で重要である。第一に、マーケットプレイスが本質的に不可能ではなかったことを示している。統合、優先順位付け、運用指揮が集中的な注意を受けたとき、システムと組織は改善できた。第二に、立ち上げ前に不足していたか不十分だった能力を特定するのに役立つ。
復旧指揮は通常、優先順位を絞る。機能提供を最大化する代わりに、クリティカルジャーニーを保護する。共有の欠陥リストを作成し、頻繁な決定サイクルを確立し、明確な所有者を割り当て、生産成果を測定する。エンジニア、オペレーター、ポリシー所有者、請負業者を共通のインシデント構造に配置する。失敗を観察してから是正作業を承認するまでの時間を短縮する。
そのモデルは危機のために予約されるべきではない。プログラムは、立ち上げ前に統合運用センターを確立し、エスカレーションをリハーサルし、重大度レベルを定義し、同じテレメトリが政府と供給者に見えるようにすることができる。サービスを運用する組織は、アーキテクチャと受け入れに影響を与えるべきである。なぜなら、運用性はシステム要件だからである。
復旧は証拠としても限界がある。後の安定したサービスは、当初のゲートを遡及的に検証するわけではない。緊急動員は高価で、破壊的であり、並外れた注意に依存する。それは他の作業を圧迫する可能性がある。また、英雄的な立ち上げ後の努力が立ち上げ前の証明の許容できる代替であるという有害な管理ストーリーを正常化する可能性がある。制度は日常的な管理が失敗した理由をまだ検討しながら、サービスを回復する人々を称賛すべきである。
最も成熟したインシデント後レビューは、復旧行動を予防的管理に結びつける。追加のコードレビューが欠陥を減らした場合、次のリリース前に必要なレビューの敷居は何か?統合指揮がインターフェースの競合を解決した場合、その権限は通常の開発中にどこに属すべきか?キャパシティ拡大が失敗を緩和した場合、需要モデルと余裕基準はどのように変更されるべきか?新しい契約が説明責任を改善した場合、どの知識と成果物が政府の管理下に残らなければならないか?
適格性と登録は別個の説明責任リスクであった
機能するウェブサイトは、マーケットプレイスが不正確な適格性と登録状態を生成または引き継ぐ場合には十分ではない。後の GAO の作業は、適格性検証、登録、詐欺リスクに対する管理を調査した。これらのレビューは教訓を可用性から取引の整合性に広げる。
マーケットプレイスの補償と財政支援の適格性は、本人確認、収入、市民権または合法的滞在、他の補償へのアクセス、世帯状況に関する情報に依存する可能性がある。システムは情報を収集し、必要な場合には信頼できるソースと比較し、不一致を処理し、申請者に解決のプロセスを与えなければならない。管理は技術的にオンラインでありながら、不適切な結果を防ぐには弱すぎたり、適格な申請者をサポートするには煩雑すぎたりする可能性がある。
GAO の登録管理作業は、テストとレビューを使用して当時のプロセスの脆弱性を特定し、より強力な詐欺リスク管理と管理を推奨した。正しい推論は、すべてのマーケットプレイス登録が無効だったわけではない。公共取引システムは、その決定の価値と結果に比例した層状の管理を必要とする。予防チェック、異常検出、文書による解決、監査証跡、登録後レビューはそれぞれ異なる障害モードをカバーする。
データ品質は組織の境界を越えて移動する。連邦の適格性結果は、保険者に送信される登録に情報を提供するかもしれない。州のメディケイドシステムは申請書を受信または返送する必要があるかもしれない。GAO の州マーケットプレイス技術のレビューは、継続的な実施のある時点で、連邦マーケットプレイスを使用する一部の州が州のメディケイドシステムとの重要な申請書転送機能を完了または認定していなかったことを報告した。この発見は後の時期とより広い連邦・州環境に関するものであり、開始日の正確な条件にまとめるべきではない。しかし、ヘッドラインのウェブサイトが安定化した後も、マーケットプレイスの統合が継続的なガバナンス責任であったことを示している。
管理目標は、システム間で一貫した説明可能な状態である。プログラムは、マーケットプレイスと保険者または州の間でステータスが異なる記録を特定する調整レポートを必要とする。修正のための時間制限と責任あるキューを必要とする。ユーザーが決定に異議を唱え、監査人が再構築できるように、決定の背後にある証拠を保存する必要がある。
これが、公共サービスの継続性が通常の電子商取引と異なる点である。ショッピングカートのエラーは苛立たしい。未解決の保険登録取引は、補償が利用可能かどうかに関する人の理解に影響を与える可能性がある。本記事は各欠陥から医学的損傷を想定しない。潜在的な結果がより強力な整合性と調整管理を正当化することを認識する。
セキュリティとプライバシーは立ち上げ障害の同義語ではなかった
HealthCare.gov とそのサポートシステムは、機密性の高い個人情報を処理し、複数の組織に接続していた。したがって、セキュリティとプライバシーは中核的な設計とガバナンスの義務であった。しかし、それらは可用性の失敗と互換性があったわけではない。
後の連邦レビューは、情報セキュリティとプライバシー管理の弱点を特定し、改善を推奨した。GAO はデータハブを、交換されたすべての記録を含む単純な倉庫ではなく、連邦と州のシステム間の接続層として説明した。そのアーキテクチャは依然として強力な認証、認可、暗号化、構成管理、インシデント対応、接続環境の監視を必要とした。
その後の報告は、立ち上げ後の期間に数百件のセキュリティ関連インシデントを説明し、その多くはプロービングまたは情報が誤った受信者に送信されたものであった。GAO はまた、レビューされたインシデントは外部の攻撃者が機密データを侵害したことを示していないと述べた。両方の部分が記録に属する。インシデント量と管理上の弱点は行動を正当化した。それらは確認された大量侵害の裏付けのない主張に変換されるべきではない。
セキュリティの準備は独自の証拠ゲートを必要とする。システムは高速で機能的に完全でありながら、許容できないリスクを露出する可能性がある。逆に、セキュリティ承認はサービスが規模で機能することを証明できない。リーダーは可用性、取引の整合性、機密性、プライバシーの別々のビューと、残余リスクに関する統合された決定を必要とする。
接続システムは説明責任を複雑にする。CMS は連邦コンポーネントを直接制御できたが、州ベースのマーケットプレイスと外部接続に影響を与える監視責任も持っていた。GAO は、監視手順と一部の管理監視の頻度が改善を必要としていることを発見した。連合サービスでは、中央当局は最小限の管理結果を定義し、信頼できる独立した証拠を要求し、改善を追跡し、接続された当事者が基準を満たさなくなったときに知るべきである。
運用設計は、セキュリティ管理自体がユーザージャーニーに影響を与えると想定すべきである。失敗またはタイムアウトする本人確認はアクセスをブロックする可能性がある。レート制限は正当なピーク需要を制約する可能性がある。ロギングはパフォーマンス圧力を生み出す可能性がある。プライバシールールは、申請書を解決する際にサポートスタッフが見ることができるものに影響を与える。これらの緊張は、立ち上げ前にテストされるべきであり、インシデント中に即興で行われるべきではない。
州のマーケットプレイスが範囲を明示的に保つべき理由を示す
全国マーケットプレイス環境は一つの均一なシステムではなかった。一部の州は自らのマーケットプレイスを設立して運営した。他の州は連邦政府によるマーケットプレイスを使用した。さらに他の州は連邦と州の機能の組み合わせに依存した。2013年10月の HealthCare.gov の立ち上げは連邦プラットフォームに関するものであり、より広い政策と技術エコシステムには州プロジェクトが含まれていた。
この区別は分析を二つの誤りから保護する。一つは、すべての州マーケットプレイスの困難を連邦ウェブサイトの欠陥として扱うこと。もう一つは、安定した連邦ポータルがすべての州インターフェースとマーケットプレイス機能が完了したことを意味すると仮定することである。
GAO の2015年の州マーケットプレイス技術のレビューは、連邦と州の実質的な投資、一部のシステムの不完全な機能、CMS の監視役割の明確さの弱点、運用前のテストが完了していなかった事例を発見した。州はまた、強力なプロジェクト管理と明確な要件に関する教訓を報告した。これらの発見は連邦の立ち上げを反映しているが、プロジェクトを同一にするわけではない。
分散プログラムへの連邦の監視は、誰が資金を承認するか、誰が技術リスクを受け入れるか、誰が準備を検証するか、情報がビジネスと技術リーダー間でどのように移動するかを定義しなければならない。役割が曖昧な場合、州は一貫性のない指示を受け、作業を繰り返し、時間を失う可能性がある。資金決定がエンジニアリング証拠から切り離されている場合、重要なリスクが低下していることを示さずに資金が流れ続ける可能性がある。
スケーラブルな監視モデルは、すべての実施詳細を規定するのではなく、共通の証拠を使用する。統合スケジュール、インターフェースインベントリ、クリティカルジャーニーのテスト結果、セキュリティ評価、欠陥敷居、調整能力、エグゼクティブサインオフを要求できる。州は異なる技術を選択するかもしれないが、保証の質問は同等のままである。
この連合的なビューは将来の公共プラットフォームにとっても重要である。中央チームはしばしば、多くの管轄区域に本人確認、支払い、データ交換、または適格性サービスを提供する。中央サービスは安定したインターフェース期待と運用コミットメントを公開しなければならず、参加組織は自らの準備を証明しなければならない。説明責任は実行において共有されるが、曖昧さに拡散されてはならない。各境界には指名された所有者があり、エンドツーエンドのサービスには責任ある権限がある。
請負業者の説明責任は観察可能な成果物から始まる
失敗した立ち上げ後の公開討論では、どの請負業者を非難すべきかがよく問われる。その質問は真のパフォーマンスの失敗を明らかにする可能性があるが、管理システムとして機能するには狭すぎる。政府が調達モデルを選択し、作業を定義または変更し、決定を提供し、環境を制御し、成果物を受け入れ、開始するかどうかを選択する。
したがって、請負業者の説明責任は提供証拠に設計されるべきである。作業明細書は、インターフェースアーティファクト、テストデータ、文書、コード品質尺度、セキュリティ義務、運用ランブック、知識移転要件を特定すべきである。受入は観察可能な結果に依存すべきである。パフォーマンス報告は、欠陥、手直し、スケジュール信頼性、未解決の依存関係の傾向を示すべきであり、消費された労働や完了と宣言されたマイルストーンだけではない。
契約担当官と権限を与えられた代表者は明確な役割を必要とする。技術担当者は、どのような指示を与えられるか、必要な変更がどのように権限のある作業になるかを知らなければならない。請負業者は、不足する決定と供給者間の競合をエスカレーションするための一貫した経路を一つ必要とする。非公式な指示はアジャイルに感じられるかもしれないが、権限が不明確な場合、スピードと説明責任の両方を損なう。
複数供給者のインセンティブは統合された成果を報奨すべきである。あるベンダーが、別のベンダーがそのインターフェースを使用できるかどうかに関係なくモジュールに対して支払われる場合、プログラムが統合ギャップを所有する。共有デモンストレーション、共通テスト環境、契約間の出口基準は、作業をサービスに合わせることができる。政府統合者は依然として紛争を解決し、公共の成果を保護しなければならない。
リーダーはまた、説明責任の唯一の兆候として交代を使用することに抵抗すべきである。立ち上げ近くでの供給者の交代は、知識とアーティファクトが移転可能でない場合、リスクを増加させる可能性がある。早期の管理は、是正措置を段階的にすべきである。改善計画を要求し、独立した検証を追加し、リーダーシップを変更し、作業を分離し、受入を保留し、定義された部分を再競争し、必要に応じて供給者を交代する。これらの応答の中から選択できる能力は、ガバナンスの成熟度の証拠である。
HealthCare.gov の立ち上げ後の契約移行は、圧力下での契約変更の可能性とコストの両方を示している。GAO は、後継作業も要件と機能強化が継続するにつれて拡大したと報告した。新しい請負業者は実行を改善できるが、要件を安定化し、範囲を管理し、統合を所有するという顧客の義務を排除することはできない。
稼働決定は公共サービスの証拠ケースを必要とする
マーケットプレイスの立ち上げからの再利用可能な教訓は、稼働を計画上の日付ではなく証拠ケースとして扱うことである。ケースは、独立した挑戦に必要な技術的詳細を隠すことなく、上級意思決定者に理解可能であるべきである。
第一に、サービスの境界を定義する。成功した成果に必要なユーザージャーニー、外部組織、手動操作、サポートチャネル、データ交換をリストする。どの要素が直接制御され、どれが別の当事者に依存するかをマークする。
第二に、立ち上げに不可欠な成果を特定する。マーケットプレイスについては、アカウント作成、申請書提出、適格性処理、プラン比較、プラン選択、保険者への送信、通知、不一致記録の修正などが含まれる可能性がある。プログラムは合法的または運用上、一部の機能強化を延期するかもしれないが、中核的な約束に必要な能力を静かに延期すべきではない。
第三に、各成果を要件と証拠に結びつける。要件には所有者とバージョンがある。テストは環境、データ、規模、期待される結果、実際の結果を特定する。欠陥は影響を受ける成果にリンクし、適切な権限によって承認された処分を持つ。セキュリティとプライバシー管理は、独自の評価証拠を運ぶ。
第四に、キャパシティと回復力を示す。需要モデルは仮定と不確実性を述べる。結果には、持続的負荷、バースト、再試行動作、重要な依存関係の失敗、復旧が含まれる。余裕は明示的である。オペレーターは、単に失敗したサーバーだけでなく、劣化したジャーニーを検出できることを実証する。
第五に、運用準備を証明する。サポートスタッフは手順をテストしている。コミュニケーションとフォールバックチャネルは使用可能である。調整キューには所有者とサービスレベルがある。インシデント指揮には決定権がある。ベンダーと政府チームはエスカレーション経路とテレメトリを共有する。
第六に、残余リスクを公的な言葉で述べる。依存関係が不確実なままの場合、どのくらいのユーザーまたはどのトランザクションが影響を受ける可能性があるか、ユーザーは何ができるか、プログラムがその状態をどのように検出するか、どの敷居がロールバックまたは制限をトリガーするかを述べる。「管理可能」などの形容詞は、証拠が定義しない限り避ける。
最後に、決定を記録する。推奨する人、異議を唱える人、受け入れる人を指名する。異議と条件を保存する。固定された日付が満たされていない敷居をオーバーライドする場合、それは技術的準備として偽装されるのではなく、可視的な政策選択であるべきである。
そのようなケースは成功を保証しない。無知を受入と混同することをより困難にする。また、次のリリースのベースラインを作成する。仮定は実際の行動と比較でき、管理は改善でき、制度的知識は人事異動や請負業者の変更を生き残る。
指標は完了し正しいジャーニーに従うべきである
従来のインフラ指標は引き続き必要である。CPU 使用率、データベースレイテンシ、キューの深さ、エラー率、ネットワークパフォーマンスは、オペレーターが問題を特定するのに役立つ。しかし、それらはリーダーにマーケットプレイスがその公共の目的を果たしているかどうかを伝えない。
成果指標は、最初のアクセスから信頼できる登録状態までの漏斗を形成すべきである。漏斗は、自発的に離脱するユーザーとエラーでブロックされたユーザーを区別する。完了時間と失敗の集中を報告する。特定のブラウザ、地域、インターフェース、アプリケーションタイプが異常な困難を経験しているかどうかを特定する。また、連邦確認画面を超えて、取引の成功した受信と調整まで継続する。
正確性は完了と並ぶべきである。高速だが不正確な適格性応答は成功ではない。保険者が処理できない送信された登録は成功ではない。重複または不一致のある申請書は、後の手動作業を増やす可能性がある。品質尺度には、検証失敗、不一致記録、修正を必要とする通知、一致しない取引、調整キューの経過期間が含まれる。
継続性指標は代替手段をカバーする。ウェブ経路が損なわれた場合、コールセンターまたは紙のプロセスはある程度の需要を処理できるか?それらのチャネルはどのくらいで飽和するか?ユーザーは代替提出が期限にどのように影響するかを伝えられているか?フォールバックは、キャパシティがあり、訓練されたスタッフがおり、権威あるシステムに戻る調整経路がある場合にのみ現実的である。
公平性とアクセシビリティも公共サービスパフォーマンスにとって重要である。集計的な成功は、アクセシビリティの障壁、言語、本人確認の制約、帯域幅の制限のために高い失敗率に直面しているグループを隠す可能性がある。このパッケージの情報源は立ち上げ時の特定の格差を確立していないため、本記事はそれを割り当てない。セグメント化された測定を将来のシステムのための必要な管理として扱う。
指標は権限から切り離された別の報告層になってはならない。すべての重要な指標には、所有者、敷居、対応が必要である。アカウント作成成功率が敷居を下回った場合、誰がトラフィックを制限し、非必須機能を無効にし、キャパシティを追加し、ユーザーガイダンスを変更できるか?決定権のないダッシュボードは観察であり、管理ではない。
制度的正当性は真実の準備に依存する
HealthCare.gov は政治的に争われた法律に結びついており、その失敗は必然的にその争いを通して解釈された。技術的分析は政治を除去できないが、政策の好みに関係なく適用される基準を特定できる。政府がデジタルサービスを公共給付または規制取引への主要な経路とする場合、ユーザーに対して準備と失敗について真実の説明を負う。
真実の準備とは、すべての脆弱性やエンジニアリングの詳細を公開することを意味しない。内部の決定が証拠に基づき、外部の主張がその証拠を超えず、インシデントコミュニケーションがユーザーの行動を助けることを意味する。初期の失敗を消去せずに復旧を報告し、実証されていない害を発明せずに管理上の弱点を報告することを意味する。
この基準は制度的学習を保護する。組織が、いくつかのコンポーネントが動作したため立ち上げは本質的に成功したと説明する場合、その統合モデルを決して修正しないかもしれない。すべての欠陥を大惨事として説明する場合、チームは問題を隠したり野心的な作業を避けたりする可能性がある。正確な言語は比例した行動を可能にする。
監視機関も建設的な役割を果たす。GAO の報告書は単に過失を割り当てただけではない。調達計画、コスト増加、要件、テスト、セキュリティ、適格性管理、州の監視を結びつけた。勧告は、後に実施された行動と実施されなかった勧告を含め、時間をかけて追跡できる記録を作成した。その縦断的な視点は、復旧が一つの出来事ではなく、有効性を検証する必要がある一連の管理変更であるため、価値がある。
公共の説明責任は同様に責任の層を区別すべきである。議会と執行部は政策と日付を設定する。機関のエグゼクティブは範囲、調達、リスクを管理する。プログラムリーダーは提供を統合する。契約担当官は権限のある作業を管理する。エンジニアとオペレーターはシステムを構築し運用する。請負業者はその義務に対して責任がある。どの層も他方の責任を排除できない。
最も重要な説明責任の問いは将来を見据えたものである。どの決定または管理が再発を防ぐか?個人を指名することは正当化されるかもしれないが、トレーサビリティ、統合権限、証拠ベースのゲートを依然として欠いているシステムは、異なる人々で同じ圧力を再現する。
将来の公共プラットフォームのための実用的な管理モデル
マーケットプレイスの経験は、他の公共デジタルサービスのためのコンパクトな運用モデルに変換できる。
ジャーニーを所有する。エンドツーエンドの公共成果に対して単一の上級責任者を割り当てる。コンポーネント所有者はそのシステムに対して責任を負い続けるが、境界を越える失敗は優先順位を設定しリスクを割り当てることができる権限にエスカレーションされる。
インターフェースレジスターを維持する。すべての外部および内部インターフェースには、技術所有者、ビジネス所有者、バージョン、データ契約、セキュリティ分類、テストステータス、運用コミットメントがある。変更は消費者全体への影響分析をトリガーする。
双方向トレーサビリティを維持する。政策とユーザー要件は、設計、契約、コードリリース、テスト、運用管理にマッピングされる。欠陥は影響を受ける公共成果に上向きに追跡でき、成果はその証拠に下向きに追跡できる。
不確実性低減に資金を提供する。初期のプロトタイプと統合デモンストレーションは、最もリスクの高い仮定を対象とすべきである。需要モデリング、データ交換、外部依存関係は、機能完成が誤った自信を生み出す前に注意を払う価値がある。
一つの統合スケジュールを構築する。供給者の計画と政府の決定日は、維持されたクリティカルパスに統合される。スケジュールの信頼性は依存関係と証拠を反映し、報告された完了率ではない。
プログレッシブリリースゲートを使用する。アーキテクチャ、機能、セキュリティ、パフォーマンス、運用、最終立ち上げゲートには定義された敷居と独立した挑戦がある。不足する証拠は保留または明示的に条件付けられた決定を生成する。
運用オプションを保持する。スコープ階層、トラフィック制御、フォールバックチャネル、移転可能なアーティファクト、知識は、一つの供給者または一つの期限が挑戦不可能になるリスクを減らす。
訪問ではなく取引を測定する。公共ダッシュボードと内部統制室は、正しい完了ジャーニー、調整、解決までの時間を強調する。インフラ指標は診断をサポートする。
リスク領域を分離する。可用性、整合性、プライバシー、セキュリティ、アクセシビリティは関連しているが異なる。それぞれに証拠と責任ある所有者があり、エグゼクティブ決定はそれらを統合するが混同しない。
復旧後に学ぶ。緊急行動は適切な場合に通常の管理となる。インシデント後レビューは勧告を実施に追跡し、管理が結果を変えたかどうかをテストする。
これらの管理のどれも新しいものではない。困難は、期限が政治的に可視であり、要件が変化し、復旧作業がガバナンスよりも速く見えるときにそれらを維持することである。HealthCare.gov は、これらがまさに規律あるガバナンスが最も高い価値を持つ条件であることを示している。
結論
2013年の HealthCare.gov の立ち上げは、単にトラフィックが多すぎたウェブサイトに関する警告談話ではなかった。それは、公共機関が政策、調達、ソフトウェア、データ交換、請負業者、セキュリティ、運用を固定された日付までに信頼できるサービスに統合できるかどうかのテストであった。
証拠は、調達計画、要件管理、コストとスケジュールの監視、テスト、準備検証の弱点を示している。また、深刻な復旧も示している。キャパシティとコード作業が改善され、運用指揮が強化され、契約が変更され、最も顕著な問題が減少した。両方の真実が必要である。
立ち上げの永続的な教訓は、継続性は本番の前から始まるということである。リーダーが全ユーザージャーニーを定義し、政府の統合権限を保持し、変更を追跡可能にし、現実的な規模でテストし、リスクを受け入れる前に証拠を要求するときに始まる。それはページがロードされた後も、適格性、登録、下流の交換、修正、サポートを通じて継続する。
将来の公共プラットフォームのために、基準は述べるのは簡単で、満たすのは厳しいものでなければならない。すなわち、どのチーム、請負業者、コンポーネントも単独でサービスを準備完了と宣言できない。準備は完了した公共の成果に属する。その成果を約束する権限は、それを証明し、運用し、回復し、説明できなければならない。
情報源
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-14-694/html/GAOREPORTS-GAO-14-694.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-14-694/pdf/GAOREPORTS-GAO-14-694.pdf
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-15-238/html/GAOREPORTS-GAO-15-238.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-15-238/pdf/GAOREPORTS-GAO-15-238.pdf
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-15-527/html/GAOREPORTS-GAO-15-527.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-15-527/pdf/GAOREPORTS-GAO-15-527.pdf
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-16-29/html/GAOREPORTS-GAO-16-29.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-16-29/pdf/GAOREPORTS-GAO-16-29.pdf
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-16-661/html/GAOREPORTS-GAO-16-661.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-17-289/html/GAOREPORTS-GAO-17-289.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-18-77/html/GAOREPORTS-GAO-18-77.htm
- https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-19-404/html/GAOREPORTS-GAO-19-404.htm
- https://www.govinfo.gov/content/pkg/CHRG-113hhrg87316/html/CHRG-113hhrg87316.htm
- https://www.govinfo.gov/content/pkg/CHRG-113hhrg87022/html/CHRG-113hhrg87022.htm
- https://www.govinfo.gov/content/pkg/CHRG-113hhrg86893/html/CHRG-113hhrg86893.htm
- https://www.govinfo.gov/content/pkg/CHRG-113shrg21630/html/CHRG-113shrg21630.htm
- https://www.govinfo.gov/content/pkg/CHRG-114hhrg93884/html/CHRG-114hhrg93884.htm
- https://www.govinfo.gov/content/pkg/CHRG-114shrg24057/html/CHRG-114shrg24057.htm
- https://www.govinfo.gov/content/pkg/CHRG-113hhrg93636/html/CHRG-113hhrg93636.htm

