カスタムキャラクターでプラグインを使用する方法
このガイドでは、非MetaHumanキャラクター向けにRuntime MetaHuman Lip Syncをセットアップする手順を説明します。このプロセスにはアニメー ションの概念とリギングに関する知識が必要です。特定のキャラクターへの実装サポートが必要な場合は、[email protected]までプロフェッショナルサポートをご依頼ください。
Lip Syncモデルに関する重要な注意点
カスタムキャラクターはStandard (Faster)モデルでのみサポートされています。
Realistic (Higher Quality)モデルはMetaHumanキャラクター専用に設計されており、カスタムキャラクターでは使用できません。このガイド全体を通して、メインセットアップガイドで参照されている場合はStandardモデルの手順に従ってください。
必須拡張プラグイン: カスタムキャラクターでStandard Modelを使用するには、メインセットアップガイドの前提条件セクショ ンで説明されているStandard Lip Sync Extensionプラグインをインストールする必要があります。
この拡張機能は、本ガイドで説明するすべてのカスタムキャラクター実装に必須です。
前提条件
開始前に、キャラクターが以下の要件を満たしていることを確認してください:
- 有効なスケルトンを持っている
- 表情用のモーフターゲット（ブレンドシェイプ）を含んでいる
- 理想的には10個以上のビセームを定義するモーフターゲットがある（ビセームが多いほどリップシンクの品質が向上）
プラグインでは、キャラクターのモーフターゲットを以下の標準ビセームにマッピングする必要があります:
Sil -> Silence
PP -> Bilabial plosives (p, b, m)
FF -> Labiodental fricatives (f, v)
TH -> Dental fricatives (th)
DD -> Alveolar plosives (t, d)
KK -> Velar plosives (k, g)
CH -> Postalveolar affricates (ch, j)
SS -> Sibilants (s, z)
NN -> Nasal (n)
RR -> Approximant (r)
AA -> Open vowel (aa)
E -> Mid vowel (e)
IH -> Close front vowel (ih)
OH -> Close-mid back vowel (oh)
OU -> Close back vowel (ou)
注: キャラクターが異なるビセムセットを持っている場合（これはよくあることです）、各ビセムの完全一致は必要ありません。近似で十分です。例えば、キャラクターの SH ビセムをプラグインの CH ビセムにマッピングすることは、これらが密接に関連した後部歯茎音であるため、効果的に機能します。
ビセムマッピングリファレンス
一 般的なビセムシステムとプラグインが必要とするビセム間のマッピングは以下の通りです:
- Apple ARKit
- FACSベースシステム
- Preston Blairシステム
- 3ds Max Phoneme System
- Custom Characters (Daz Genesis 8/9, Reallusion CC3/CC4, Mixamo, ReadyPlayerMe)
ARKitは、いくつかの口形状を含む、顔のアニメーション用の包括的なブレンドシェイプを提供します。以下は、それらをRuntimeMetaHumanLipSyncのビセムにマッピングする方法です:
| RuntimeMetaHumanLipSync ビセム | ARKit 相当 | 備考 |
|---|---|---|
| Sil | mouthClose | ニュートラル/休止位置 |
| PP | mouthPressLeft + mouthPressRight | 両唇音には、両方のプレス形状を一緒に使用 |
| FF | lowerLipBiteLeft + lowerLipBiteRight | これらは「f/v」の唇と歯の接触を作成 |
| TH | tongueOut | ARKitは直接的な舌制御を提供 |
| DD | jawOpen (軽度) + tongueUp | わずかな顎の開きと舌の位置を組み合わせ |
| KK | mouthLeft または mouthRight (軽度) | 口角の微妙な引きが軟口蓋音を近似 |
| CH | jawOpen (軽度) + mouthFunnel (軽度) | 後部歯茎音のために組み合わせ |
| SS | mouthFrown | 歯擦音にはわずかなしかめ面を使用 |
| NN | jawOpen (非常に軽度) + mouthClose | ほとんど閉じた口とわずかな顎の開き |
| RR | mouthPucker (軽度) | r音のための微妙な丸め |
| AA | jawOpen + mouthOpen | 広く開いた母音のために組み合わせ |
| E | jawOpen (軽度) + mouthSmile | 中間的な開きとわずかな笑み |
| IH | mouthSmile (軽度) | 唇のわずかな広がり |
| OH | mouthFunnel | 丸く開いた形状 |
| OU | mouthPucker | きつく丸めた唇 |
FACS（Facial Action Coding System）は、顔の動きを記述するためにアクションユニット（AUs）を使用します。多くのプロフェッショナルなアニメーションシステムはFACSベースのアプローチを使用しています:
| RuntimeMetaHumanLipSync ビセム | FACS アクションユニット | 備考 |
|---|---|---|
| Sil | Neutral | アクティブなAUなし |
| PP | AU23 + AU24 | 唇圧迫器 + 唇緊張器 |
| FF | AU22 + AU28 | 唇漏斗器 + 唇吸い込み |
| TH | AU25 (軽度) + AU27 | 唇離れ + 口伸展 |
| DD | AU25 + AU16 | 唇離れ + 下唇下制器 |
| KK | AU26 + AU14 | 顎下げ + ディンプラー |
| CH | AU18 + AU25 | 唇すぼめ + 唇離れ |
| SS | AU20 | 唇伸展器 |
| NN | AU25 (非常に軽度) | わずかな唇離れ |
| RR | AU18 (軽度) | 軽度の唇すぼめ |
| AA | AU27 + AU26 | 口伸展 + 顎下げ |
| E | AU25 + AU12 | 唇離れ + 口角引き上げ器 |
| IH | AU12 + AU25 (軽度) | 口角引き上げ器 + 軽度の唇離れ |
| OH | AU27 (軽度) + AU18 | 軽度の口伸展 + 唇すぼめ |
| OU | AU18 + AU26 (軽度) | 唇すぼめ + 軽度の顎下げ |
プレストン・ブレアシステムは、口の形状に説明的な名前を使用する古典的なアニメーション標準です：
| RuntimeMetaHumanLipSync Viseme | Preston Blair | メモ |
|---|---|---|
| Sil | Rest | 中立の閉じた口の位置 |
| PP | MBP | 古典的な「MBP」の口形状 |
| FF | FV | 下唇に歯が当たる「FV」位置 |
| TH | TH | 舌が前歯に触れる位置 |
| DD | D/T/N | これらの子音に似た位置 |
| KK | CKG | 硬い子音の位置 |
| CH | CH/J/SH | これらの音のための軽い口尖らせ |
| SS | S/Z | 軽く開いた歯の位置 |
| NN | N/NG/L | D/Tに似ているが舌の位置が異なる |
| RR | R | R音のための丸めた唇 |
| AA | AI | 大きく開いた口 |
| E | EH | 中程度に開いた口 |
| IH | EE | 唇を広げた位置 |
| OH | OH | 丸めた中程度の開口 |
| OU | OO | きつく丸めた唇 |
3ds Maxはキャラクタースタジオ用にフォネームベースのシステムを使用しています：
| RuntimeMetaHumanLipSync Viseme | 3ds Max Phoneme | メモ |
|---|---|---|
| Sil | rest | デフォルトの口位置 |
| PP | p_b_m | 直接対応 |
| FF | f_v | 直接対応 |
| TH | th | 直接対応 |
| DD | t_d | 直接対応 |
| KK | k_g | 直接対応 |
| CH | sh_zh_ch | 結合形状 |
| SS | s_z | 直接対応 |
| NN | n_l | これらの音のための結合 |
| RR | r | 直接対応 |
| AA | ah | 開いた母音 |
| E | eh | 中間母音 |
| IH | ee | 閉じた前舌母音 |
| OH | oh | 後舌円唇母音 |
| OU | oo | 閉じた後舌母音 |
ビセームまたは口のブレンドシェイプ/モーフターゲットを持つカスタムキャラクター（Daz Genesis 8/9、Reallusion CC3/CC4、Mixamo、ReadyPlayerMeなど）は、通常、プラグインのビセームシステムに合理的な近似でマッピングできます。
カスタムポーズアセットの作成
Blend Runtime MetaHuman Lip Syncノードで使用するキャラクターのカスタムポーズアセットを作成するには、以下の手順に従ってください：
1. キャラクターのSkeletal Meshを特定
リップシンクアニメーションに使用したいモーフターゲット（ブレンドシェイプ）を含むスケルタルメッシュを見つけます。これはキャラクターの設計によって、全身メッシュまたは顔メッシュのいずれかになる場合があります。
2. 利用可能なMorph Targetsを確認
スケルタルメッシュにリップシンクアニメーション用のビセームとして使用できる適切なモーフターゲットがあることを確認してください。顔のアニメーションをサポートするほとんどのキャラクターには、何らかのフォネーム/ビセームモーフターゲットが含まれているはずです。
3. リファレンスポーズアニメーションを作成
Create Asset -> Create Animation -> Reference Poseに移動します- アニメーションシーケンスにわかりやすい名前を付け、適切な場 所に保存します
- 作成されたAnimation Sequenceは自動的に開き、ループ再生される空のアニメーションが表示されます
- 編集しやすくするため、
Pauseボタンをクリックしてアニメーションの再生を停止します
4. アニメーションシーケンスの編集
Edit in Sequencer->Edit with FK Control RigをクリックしますBake to Control Rigダイアログで、設定を変更せずにBake to Control Rigボタンをクリックします
- エディタは
Animation Modeに切り替わり、Sequencerタブが開きます View Range End Timeを0016に設定します（これによりWorking Range Endも自動的に0016に設定されます）- スライダーの右端をシーケンサーウィンドウの右端までドラッグします
5. アニメーションカーブの準備
- Animation Sequenceアセットに戻り、
Curvesリスト内のモーフターゲットを探します（表示されていない場合は、Animation Sequenceアセットを閉じて再度開いてください） - リップシンクに使用したいビジームや口の動きに関連しないモーフターゲットを削除します
6. ビセームマッピングを計画する
キャラクターのビセームをプラグインが必要とするセットにマッチさせるためのマッピング計画を作成します。例えば：
Sil -> Sil
PP -> FV
FF -> FV
TH -> TH
DD -> TD
KK -> KG
CH -> CH
SS -> SZ
NN -> NL
RR -> RR
AA -> AA
E -> E
IH -> IH
OH -> O
OU -> U
各ビジュームに対してマッピングが重複しても問題ないことに注意してください。
7. 各ビジュームをアニメーションする
- 各ビジュームについて、関連するモーフターゲットカーブを0.0から1.0までアニメーションさせる
- 各ビジュームアニメーションを異なるフレームで開始する
- 自然なビジューム形状を作成するために必要な追加カーブ（顎/口の開閉、舌の位置など）を設定する
8. ポーズアセットを作成
Create Asset->Pose Asset->Current Animationに移動します- ポーズアセットにわかりやすい名前を付け、適切な場所に保存します
- 作成されたポーズアセットは自動的に開き、
Pose_0、Pose_1などのポーズが表示されます。それぞれがビセームに対応しています - ビセームの重みをプレビューして、期待通りに動作することを確認します
9. ポーズアセットを完成させる
- 各ポーズの名前を前提条件セクションのビセーム名に合わせて変更します
- 使用されていないポーズを削除します
オーディオ処理とブレンディングの設定
ポーズアセットの準備が整ったら、オーディオ処理とブレンディングノードを設定する必要があります:
- キャラクターのAnimation Blueprintを探すか作成します
- 標準プラグイン設定ガイドに記載されているのと同じ手順でオーディオ処理とブレンディングを設定します
Blend Runtime MetaHuman Lip Syncノードで、デフォルトのMetaHumanポーズアセットの代わりにカスタムPose Assetを選択します
ボディアニメーションとの組み合わせ
リップシンクを他のボディアニメーションと一緒に行いたい場合:
- 標準プラグインガイドに記載されているのと同じ手順に従います
- MetaHumanのボーン名を使用する代わりに、キャラクターの首スケルトンに正しいボーン名を指定してください
結果
このセットアップを使用したカスタムキャラクターの例を以下に示します:
リップシンクの品質は、特定のキャラクターとそのビジームの設定状況に大きく依存します。上記の例は、異なるタイプのカスタムキャラクターと個別のビジームシステムで動作するプラグインを示しています。