カスタムキャラクターでのプラグイン使用
このガイドでは、非MetaHumanキャラクター向けにRuntime MetaHuman Lip Syncをセットアップする手順を説明します。このプロセスにはアニメーション概念とリギングに関する知識が必要です。特定のキャラクターへの実装サポートが必要な場合は、[email protected]までプロフェッショナルサポートにお問い合わせください。
前提条件
開始前に、以下の要件を満たしていることを確認してください:
- 有効なスケルトンを持っている
- 表情用のモーフターゲット（ブレンドシェイプ）が含まれている
- 理想的には10個以上のビセーム定義用モーフターゲットがある（ビセームが多いほどリップシンク品質が向上）
プラグインでは、キャラクターのモーフターゲットを以下の標準ビセームにマッピングする必要があります:
Sil -> Silence
PP -> Bilabial plosives (p, b, m)
FF -> Labiodental fricatives (f, v)
TH -> Dental fricatives (th)
DD -> Alveolar plosives (t, d)
KK -> Velar plosives (k, g)
CH -> Postalveolar affricates (ch, j)
SS -> Sibilants (s, z)
NN -> Nasal (n)
RR -> Approximant (r)
AA -> Open vowel (aa)
E -> Mid vowel (e)
IH -> Close front vowel (ih)
OH -> Close-mid back vowel (oh)
OU -> Close back vowel (ou)
注: キャラクターが異なるビセムセットを持っている場合（その可能性が高い）、各ビセムに完全一致は必要ありません。近似値で十分な場合が多く、例え ばキャラクターのSHビセムをプラグインのCHビセムにマッピングすることは、これらが密接に関連した後部歯茎音であるため効果的に機能します。
ビセムマッピングリファレンス
一般的なビセムシステムとプラグインが必要とするビセム間のマッピングは以下の通りです:
- Apple ARKit
- FACSベースシステム
- Preston Blairシステム
- 3ds Max フォネームシステム
- カスタムキャラクター (Daz Genesis 8/9, Reallusion CC3/CC4, Mixamo, ReadyPlayerMe)
ARKitは顔アニメーション用の包括的なブレンドシェイプセットを提供しており、複数の口形状を含みます。これらをRuntimeMetaHumanLipSyncのビセムにマッピングする方法:
| RuntimeMetaHumanLipSync ビセム | ARKit 相当 | 備考 |
|---|---|---|
| Sil | mouthClose | ニュートラル/休止位置 |
| PP | mouthPressLeft + mouthPressRight | 両唇音には両方のプレス形状を併 用 |
| FF | lowerLipBiteLeft + lowerLipBiteRight | 「f/v」の唇と歯の接触を作成 |
| TH | tongueOut | ARKitは舌の直接制御が可能 |
| DD | jawOpen (軽度) + tongueUp | 軽い顎開きと舌位置を組み合わせ |
| KK | mouthLeft または mouthRight (軽度) | 口角の微妙な引きで軟口蓋音を近似 |
| CH | jawOpen (軽度) + mouthFunnel (軽度) | 後部歯茎音用に組み合わせ |
| SS | mouthFrown | 歯擦音用に軽いしかめ面を使用 |
| NN | jawOpen (極軽度) + mouthClose | ほぼ閉じた口に軽い顎開き |
| RR | mouthPucker (軽度) | r音用の微妙な丸め |
| AA | jawOpen + mouthOpen | 広く開いた母音用に組み合わせ |
| E | jawOpen (軽度) + mouthSmile | 中程度開きに軽い笑み |
| IH | mouthSmile (軽度) | 唇の軽い広がり |
| OH | mouthFunnel | 丸く開いた形状 |
| OU | mouthPucker | 強く丸めた唇 |
FACS（Facial Action Coding System）はアクションユニット（AUs）を使用して顔の動きを記述します。多くのプロフェッショナルアニメーションシステムがFACSベースのアプローチを使用:
| RuntimeMetaHumanLipSync ビセム | FACS アクションユニット | 備考 |
|---|---|---|
| Sil | Neutral | アクティブなAUなし |
| PP | AU23 + AU24 | 唇押し付け + 唇引き締め |
| FF | AU22 + AU28 | 唇漏斗 + 唇吸い込み |
| TH | AU25 (軽度) + AU27 | 唇分離 + 口伸展 |
| DD | AU25 + AU16 | 唇分離 + 下唇下げ |
| KK | AU26 + AU14 | 顎下げ + えくぼ |
| CH | AU18 + AU25 | 唇すぼめ + 唇分離 |
| SS | AU20 | 唇伸展 |
| NN | AU25 (極軽度) | 軽度の唇分離 |
| RR | AU18 (軽度) | 軽度の唇すぼめ |
| AA | AU27 + AU26 | 口伸展 + 顎下げ |
| E | AU25 + AU12 | 唇分離 + 口角引き上げ |
| IH | AU12 + AU25 (軽度) | 口角引き上げ + 軽度唇分離 |
| OH | AU27 (軽度) + AU18 | 軽度口伸展 + 唇すぼめ |
| OU | AU18 + AU26 (軽度) | 唇すぼめ + 軽度顎下げ |
Preston Blairシステムは口形状に記述的な名前を使用する古典的なアニメーション標準:
| RuntimeMetaHumanLipSync ビセム | Preston Blair | 備考 |
|---|---|---|
| Sil | Rest | ニュートラルな閉口位置 |
| PP | MBP | 古典的な「MBP」口形状 |
| FF | FV | 下唇に歯を当てた「FV」位置 |
| TH | TH | 舌が前歯に触れる |
| DD | D/T/N | これらの子音に類似した位置 |
| KK | CKG | 硬子音位置 |
| CH | CH/J/SH | これらの音用の軽い口尖らせ |
| SS | S/Z | 軽く開いた歯位置 |
| NN | N/NG/L | D/Tに類似だが舌位置が異なる |
| RR | R | R音用の丸めた唇 |
| AA | AI | 大きく開いた口 |
| E | EH | 中程度に開いた口 |
| IH | EE | 広げた唇 |
| OH | OH | 丸く中程度開き |
| OU | OO | 強く丸めた唇 |
3ds Maxはキャラクタースタジオ用にフォネームベースシステムを使用:
| RuntimeMetaHumanLipSync ビセム | 3ds Max フォネーム | 備考 |
|---|---|---|
| Sil | rest | デフォルト口位置 |
| PP | p_b_m | 直接相当 |
| FF | f_v | 直接相当 |
| TH | th | 直接相当 |
| DD | t_d | 直接相当 |
| KK | k_g | 直接相当 |
| CH | sh_zh_ch | 結合形状 |
| SS | s_z | 直接相当 |
| NN | n_l | これらの音用に結合 |
| RR | r | 直接相当 |
| AA | ah | 開いた母音 |
| E | eh | 中母音 |
| IH | ee | 狭前母音 |
| OH | oh | 後舌円唇母音 |
| OU | oo | 狭後母音 |
ビセムまたは口ブレンドシェイプ/モーフターゲットを持つカスタムキャラクター（Daz Genesis 8/9、Reallusion CC3/CC4、Mixamo、ReadyPlayerMeなど）は、通常、プラグインのビセムシステムに合理的な近似値でマッピング可能です。
カスタムポーズアセットの作成
Blend Runtime MetaHuman Lip Syncノードで使用するキャラクター用のカスタムポーズアセットを作成するには、以下の手順に従ってください:
1. キャラクターのSkeletal Meshを特定
リップシンクアニメーションに使用したいモーフターゲット（ブレンドシェイプ）を含むスケルタルメッシュを見つけます。これはキャラクターデザインによって、全身メッシュまたは顔メッシュのみの場合があります。
2. 利用可能なモーフターゲットの確認
リップシンクアニメーション用のビセムとして使用できる適切なモーフターゲットがスケルタルメッシュにあることを確認します。顔アニメーションをサポートするほとんどのキャラクターには、何らかのフォネーム/ビセムモーフターゲットがあるはずです。
3. リファレンスポーズアニメーションの作成
Create Asset -> Create Animation -> Reference Poseに移動- アニメーションシーケンスに説明的な名前を付け、適切な場所に保存
- 作成されたAnimation Sequenceが自動的に開き、ループ再生される空のアニメーションが表示されます
- 編集を容易にするため、
Pauseボタンをクリックしてアニメーション再生を停止
4. アニメーションシーケンスの編集
Edit in Sequencer->Edit with FK Control RigをクリックBake to Control Rigダイアログで、設定を変更せずにBake to Control Rigボタンをクリック
- エディタが
Animation Modeに切り替わり、Sequencerタブが開きます View Range End Timeを0016に設定（Working Range Endも自動的に0016に設定されます）- スライダーの右端をシーケンサーウィンドウの右端までドラッグ
5. アニメーションカーブを準備する
- Animation Sequenceアセットに戻り、
Curvesリスト内のモーフターゲットを探します（表示されていない場合は、Animation Sequenceアセットを閉じて再度開いてください） - リップシンクに使用したいビジームや口の動きに関連しないモーフターゲットはすべて削除します
6. ビセムマッピングを計画する
キャラクターのビセムをプラグインが必要とするセットにマッチングする計画を作成します。例えば：
Sil -> Sil
PP -> FV
FF -> FV
TH -> TH
DD -> TD
KK -> KG
CH -> CH
SS -> SZ
NN -> NL
RR -> RR
AA -> AA
E -> E
IH -> IH
OH -> O
OU -> U
以下のように、原文のフォーマット、改行、空白、マークダウン構造、技術用語を保持しながら日本語に翻訳します:
各ビジームに対して異なるフレームでアニメーションを開始するのが許容されることに注意してください。キャラクターのビジームセットが要求されるすべてのビジームに完全一致しない場合、マッピングが重複しても問題ありません。
7. 各ビジームをアニメートする
- 各ビジームについて、関連するモーフターゲットカーブを0.0から1.0までアニメートする
- 各ビジームアニメーションを異なるフレームで開始する
- 自然なビジーム形状を作成するために必要な追加カーブ（顎/口の開閉、舌の位置など）を設定する
8. ポーズアセットを作成
Create Asset->Pose Asset->Current Animationに移動- ポーズアセットに説明的な名前を付け、適切な場所に保存
- 作成されたポーズアセットは自動的に開き、
Pose_0、Pose_1などの各ビジームに対応するポーズが表示されます - ビジームの重みをプレビューして、期待通りに動作することを確認
9. ポーズアセットを完成させる
- 各ポーズの名前を前提条件セクションのビ ジーム名に合わせて変更
- 使用されていないポーズを削除
オーディオ処理とブレンディングの設定
ポーズアセットの準備が整ったら、オーディオ処理とブレンディングノードの設定を行う必要があります：
- キャラクターのAnimation Blueprintを探すか作成します
- 標準プラグイン設定ガイドで記載されているのと同じ手順に従って、オーディオ処理とブレンディングを設定します
Blend Runtime MetaHuman Lip Syncノードで、デフォルトのMetaHumanポーズアセットの代わりにカスタムポーズアセットを選択します
ボディアニメーションとの組み合わせ
リップシンクを他のボディアニメーションと同時に行いたい場合：
- 標準プラグインガイドに記載されているのと同じ手順に従います
- MetaHumanのボーン名を使用する代わりに、キャラクターの首スケルトンに正しいボーン名を指定してください
結果
このセットアップを使用したカスタムキャラクターの例を以下に示します：
リップシンクの品質は、特定のキャラクターとそのビジームの設定状況に大きく依存します。上記の例は、異なるタイプのカスタムキャラクターと独自のビジームシステムでプラグインが動作していることを示しています。