Skip to content
Merged
Show file tree
Hide file tree
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
14 changes: 7 additions & 7 deletions comfyui_embedded_docs/docs/BlockSparseAttention/es.md
Original file line number Diff line number Diff line change
Expand Up @@ -10,31 +10,31 @@ El nodo **Block Sparse Attention** modifica un modelo para que sus capas de aten
|-----------|-------------|---------------|-------------|-------|
| `model` | El modelo al que se aplicará el parche. | MODEL | Sí | N/A |
| `selection` | Método utilizado para elegir bloques clave para atención completa a nivel de token (se muestra como `method`). <br>`sol-attn`: Sparsifying Online Attention utiliza un umbral adaptativo sin entrenamiento para cada cabeza de atención y bloque de consulta.<br>`sla`: Sparse-Linear Attention conserva un porcentaje fijo de los bloques clave con mayor puntuación; úsalo solo con pesos de modelo entrenados para este patrón.<br>`vsa`: Video Sparse Attention (FastVideo) utiliza teselación 3D de cubos de video y una rama de atención gruesa aprendida; requiere pesos de modelo FastH3. | DYNAMIC_COMBO | Sí | `"sol-attn"`<br>`"sla"`<br>`"vsa"` |
| `start_percent` | Punto porcentual en el que comienza la atención dispersa. Antes de este punto, la atención permanece densa. Predeterminado: 0.2. | FLOAT | No | min: 0.0, max: 1.0, step: 0.01 |
| `end_percent` | Punto porcentual en el que termina la atención dispersa. Después de este punto, la atención vuelve a ser densa. Predeterminado: 1.0. | FLOAT | No | min: 0.0, max: 1.0, step: 0.01 |
| `start_percent` | Punto porcentual en el que comienza la atención dispersa. Antes de este punto, la atención permanece densa. Predeterminado: 0.2. | FLOAT | No | mínimo: 0.0, máximo: 1.0, paso: 0.01 |
| `end_percent` | Punto porcentual en el que termina la atención dispersa. Después de este punto, la atención vuelve a ser densa. Predeterminado: 1.0. | FLOAT | No | mínimo: 0.0, máximo: 1.0, paso: 0.01 |
| `dense_blocks` | Bloques Transformer que siempre se ejecutan de forma densa, p. ej. '0, 1, 47-49'. Predeterminado: "" (vacío). Entrada avanzada. | STRING | No | Default: "" |
| `min_tokens` | Las secuencias más cortas que este valor permanecen densas. Predeterminado: 12288. Entrada avanzada. | INT | No | min: 0, max: 1048576, step: 512 |
| `extra_tokens` | Tokens adicionales con mayor puntuación a los que cada bloque de consulta atiende más allá de sus bloques seleccionados. Más cercano a denso para mayor tiempo de atención; se recomienda 256, 0 lo desactiva. Se ignora para VSA. Predeterminado: 256. Entrada avanzada. | INT | No | min: 0, max: 256, step: 64 |
| `min_tokens` | Las secuencias más cortas que este valor permanecen densas. Predeterminado: 12288. Entrada avanzada. | INT | No | mínimo: 0, máximo: 1048576, paso: 512 |
| `extra_tokens` | Tokens adicionales con mayor puntuación a los que cada bloque de consulta atiende más allá de sus bloques seleccionados. Más cercano a denso para mayor tiempo de atención; se recomienda 256, 0 lo desactiva. Se ignora para VSA. Predeterminado: 256. Entrada avanzada. | INT | No | mínimo: 0, máximo: 256, paso: 64 |
| `sink_conditioning` | Solo para MiniMax-H3. `exact_kv`: cada consulta atiende exactamente las filas empaquetadas de texto/audio/referencia (aprox. 3 % de costo). `exact_kv_and_rows`: además ejecuta densamente las filas de consulta de audio objetivo (mantiene intacto el audio generado). `off` desactiva este comportamiento. Predeterminado: "exact_kv_and_rows". Entrada avanzada. | COMBO | No | `"exact_kv"`<br>`"exact_kv_and_rows"`<br>`"off"` |
| `verbose` | Registra si cada forma de atención usó atención dispersa o por qué permaneció densa. Predeterminado: False. Entrada avanzada. | BOOLEAN | No | Default: False |

### Entradas de sol-attn

| Parámetro | Descripción | Tipo de datos | Obligatorio | Rango |
|-----------|-------------|---------------|-------------|-------|
| `tau` | Umbral en sigmas de la distribución de puntuaciones. Un valor más alto es más disperso: 1.0 conserva exactos aproximadamente el 16 % de los bloques clave, 1.5 alrededor del 7 %, 2.0 alrededor del 2.7 %. Predeterminado: 1.3. | FLOAT | No | min: 0.0, max: 4.0, step: 0.05 |
| `tau` | Umbral en sigmas de la distribución de puntuaciones. Un valor más alto es más disperso: 1.0 conserva exactos aproximadamente el 16 % de los bloques clave, 1.5 alrededor del 7 %, 2.0 alrededor del 2.7 %. Predeterminado: 1.3. | FLOAT | No | mínimo: 0.0, máximo: 4.0, paso: 0.05 |

### Entradas de sla

| Parámetro | Descripción | Tipo de datos | Obligatorio | Rango |
|-----------|-------------|---------------|-------------|-------|
| `keep_percent` | Porcentaje de bloques clave que cada bloque de consulta conserva exactamente (los sumideros y la diagonal se añaden por encima). Las LoRAs de selección de estilo SLA se destilan contra este valor; sin dicha LoRA, un valor más alto está más cerca de denso. Predeterminado: 10.0. | FLOAT | No | min: 0.5, max: 95.0, step: 0.5 |
| `keep_percent` | Porcentaje de bloques clave que cada bloque de consulta conserva exactamente (los sumideros y la diagonal se añaden por encima). Las LoRAs de selección de estilo SLA se destilan contra este valor; sin dicha LoRA, un valor más alto está más cerca de denso. Predeterminado: 10.0. | FLOAT | No | mínimo: 0.5, máximo: 95.0, paso: 0.5 |

### Entradas de vsa

| Parámetro | Descripción | Tipo de datos | Obligatorio | Rango |
|-----------|-------------|---------------|-------------|-------|
| `keep_percent` | Porcentaje de cubos de video que cada cubo de consulta conserva; los checkpoints FastH3-VSA están entrenados con 10. Usa las capas `to_gate_compress` del modelo para la rama gruesa cuando están presentes. Predeterminado: 10.0. | FLOAT | No | min: 0.5, max: 95.0, step: 0.5 |
| `keep_percent` | Porcentaje de cubos de video que cada cubo de consulta conserva; los checkpoints FastH3-VSA están entrenados con 10. Usa las capas `to_gate_compress` del modelo para la rama gruesa cuando están presentes. Predeterminado: 10.0. | FLOAT | No | mínimo: 0.5, máximo: 95.0, paso: 0.5 |

**Nota:** Solo se muestran en la interfaz los parámetros que pertenecen al método seleccionado actualmente.

Expand Down
14 changes: 7 additions & 7 deletions comfyui_embedded_docs/docs/BlockSparseAttention/ja.md
Original file line number Diff line number Diff line change
Expand Up @@ -10,31 +10,31 @@
|-----------|-------------|-----------|----------|-------|
| `model` | パッチを適用するモデル。 | MODEL | はい | N/A |
| `selection` | 完全なトークンレベルのアテンションでキーブロックを選択するために使用するメソッド(`method` として表示されます)。<br>`sol-attn`:Sparsifying Online Attention は、各アテンションヘッドとクエリブロックに対してトレーニング不要の適応しきい値を使用します。<br>`sla`:Sparse-Linear Attention は、最高スコアのキーブロックの固定割合を保持します。このパターン用にトレーニングされたモデルの重みとのみ使用してください。<br>`vsa`:Video Sparse Attention(FastVideo)は、3Dビデオキューブタイリングと学習済みの粗いアテンションブランチを使用します。FastH3 モデルの重みが必要です。 | DYNAMIC_COMBO | はい | `"sol-attn"`<br>`"sla"`<br>`"vsa"` |
| `start_percent` | スパースアテンションが開始されるパーセント値です。この値より前は、アテンションは密なままです。デフォルト:0.2。 | FLOAT | いいえ | min: 0.0, max: 1.0, step: 0.01 |
| `end_percent` | スパースアテンションが終了するパーセント値です。この値より後は、アテンションは密な状態に戻ります。デフォルト:1.0。 | FLOAT | いいえ | min: 0.0, max: 1.0, step: 0.01 |
| `start_percent` | スパースアテンションが開始されるパーセント値です。この値より前は、アテンションは密なままです。デフォルト:0.2。 | FLOAT | いいえ | 最小値: 0.0、最大値: 1.0、ステップ: 0.01 |
| `end_percent` | スパースアテンションが終了するパーセント値です。この値より後は、アテンションは密な状態に戻ります。デフォルト:1.0。 | FLOAT | いいえ | 最小値: 0.0、最大値: 1.0、ステップ: 0.01 |
| `dense_blocks` | 常に密に実行される Transformer ブロック(例:'0, 1, 47-49')。デフォルト:""(空)。詳細設定入力。 | STRING | いいえ | Default: "" |
| `min_tokens` | これより短いシーケンスは密なままです。デフォルト:12288。詳細設定入力。 | INT | いいえ | min: 0, max: 1048576, step: 512 |
| `extra_tokens` | 各クエリブロックが選択したブロックに加えて注目する、追加の最高スコアトークン。値を大きくすると密なアテンションに近づき、アテンション時間が増えます。256 を推奨、0 で無効になります。VSA では無視されます。デフォルト:256。詳細設定入力。 | INT | いいえ | min: 0, max: 256, step: 64 |
| `min_tokens` | これより短いシーケンスは密なままです。デフォルト:12288。詳細設定入力。 | INT | いいえ | 最小値: 0、最大値: 1048576、ステップ: 512 |
| `extra_tokens` | 各クエリブロックが選択したブロックに加えて注目する、追加の最高スコアトークン。値を大きくすると密なアテンションに近づき、アテンション時間が増えます。256 を推奨、0 で無効になります。VSA では無視されます。デフォルト:256。詳細設定入力。 | INT | いいえ | 最小値: 0、最大値: 256、ステップ: 64 |
| `sink_conditioning` | MiniMax-H3 のみ。`exact_kv`:すべてのクエリがパックされたテキスト/音声/参照行に正確に注目します(コスト約 3%)。`exact_kv_and_rows`:さらにターゲット音声のクエリ行を密に実行します(生成音声を維持します)。`off` はこの動作を無効にします。デフォルト:"exact_kv_and_rows"。詳細設定入力。 | COMBO | いいえ | `"exact_kv"`<br>`"exact_kv_and_rows"`<br>`"off"` |
| `verbose` | 各アテンション形状がスパースアテンションを使用したか、または密なままだった理由をログに記録します。デフォルト:False。詳細設定入力。 | BOOLEAN | いいえ | Default: False |

### sol-attn 入力

| パラメータ | 説明 | データ型 | 必須 | 範囲 |
|-----------|-------------|-----------|----------|-------|
| `tau` | スコア分布のシグマ単位のしきい値。値が高いほどスパースになります。1.0 はキーブロックの約 16% を正確に保持し、1.5 は約 7%、2.0 は約 2.7% を保持します。デフォルト:1.3。 | FLOAT | いいえ | min: 0.0, max: 4.0, step: 0.05 |
| `tau` | スコア分布のシグマ単位のしきい値。値が高いほどスパースになります。1.0 はキーブロックの約 16% を正確に保持し、1.5 は約 7%、2.0 は約 2.7% を保持します。デフォルト:1.3。 | FLOAT | いいえ | 最小値: 0.0、最大値: 4.0、ステップ: 0.05 |

### sla 入力

| パラメータ | 説明 | データ型 | 必須 | 範囲 |
|-----------|-------------|-----------|----------|-------|
| `keep_percent` | 各クエリブロックが正確に保持するキーブロックの割合(%)。シンクと対角はその上に加わります。選択された SLA スタイルの LoRA はこれに対して蒸留されています。そのような LoRA がない場合、値を高くすると密なアテンションに近づきます。デフォルト:10.0。 | FLOAT | いいえ | min: 0.5, max: 95.0, step: 0.5 |
| `keep_percent` | 各クエリブロックが正確に保持するキーブロックの割合(%)。シンクと対角はその上に加わります。選択された SLA スタイルの LoRA はこれに対して蒸留されています。そのような LoRA がない場合、値を高くすると密なアテンションに近づきます。デフォルト:10.0。 | FLOAT | いいえ | 最小値: 0.5、最大値: 95.0、ステップ: 0.5 |

### vsa 入力

| パラメータ | 説明 | データ型 | 必須 | 範囲 |
|-----------|-------------|-----------|----------|-------|
| `keep_percent` | 各クエリキューブが保持するビデオキューブの割合(%)。FastH3-VSA チェックポイントは 10 でトレーニングされています。存在する場合、粗いブランチにモデルの `to_gate_compress` 層を使用します。デフォルト:10.0。 | FLOAT | いいえ | min: 0.5, max: 95.0, step: 0.5 |
| `keep_percent` | 各クエリキューブが保持するビデオキューブの割合(%)。FastH3-VSA チェックポイントは 10 でトレーニングされています。存在する場合、粗いブランチにモデルの `to_gate_compress` 層を使用します。デフォルト:10.0。 | FLOAT | いいえ | 最小値: 0.5、最大値: 95.0、ステップ: 0.5 |

**注記:** 現在選択されているメソッドに属するパラメータのみがインターフェースに表示されます。

Expand Down
14 changes: 7 additions & 7 deletions comfyui_embedded_docs/docs/BlockSparseAttention/ko.md
Original file line number Diff line number Diff line change
Expand Up @@ -10,31 +10,31 @@
|-----------|-------------|-----------|----------|-------|
| `model` | 패치할 모델입니다. | MODEL | 예 | N/A |
| `selection` | 전체 토큰 수준 어텐션을 위한 키 블록을 선택하는 데 사용되는 방법입니다(`method`로 표시됩니다). <br>`sol-attn`: Sparsifying Online Attention은 각 어텐션 헤드와 쿼리 블록에 대해 학습이 필요 없는 적응형 임계값을 사용합니다.<br>`sla`: Sparse-Linear Attention은 가장 높은 점수의 키 블록을 고정된 비율만큼 유지합니다. 이 패턴으로 학습된 모델 가중치에만 사용하세요.<br>`vsa`: Video Sparse Attention(FastVideo)은 3D 비디오 큐브 타일링과 학습된 거친 어텐션 분기를 사용합니다. FastH3 모델 가중치가 필요합니다. | DYNAMIC_COMBO | 예 | `"sol-attn"`<br>`"sla"`<br>`"vsa"` |
| `start_percent` | 희소 어텐션이 시작되는 백분율 지점입니다. 이 지점 이전에는 어텐션이 밀집 상태로 유지됩니다. 기본값: 0.2. | FLOAT | 아니요 | min: 0.0, max: 1.0, step: 0.01 |
| `end_percent` | 희소 어텐션이 끝나는 백분율 지점입니다. 이 지점 이후에는 어텐션이 다시 밀집 방식으로 돌아갑니다. 기본값: 1.0. | FLOAT | 아니요 | min: 0.0, max: 1.0, step: 0.01 |
| `start_percent` | 희소 어텐션이 시작되는 백분율 지점입니다. 이 지점 이전에는 어텐션이 밀집 상태로 유지됩니다. 기본값: 0.2. | FLOAT | 아니요 | 최솟값: 0.0, 최댓값: 1.0, 단계: 0.01 |
| `end_percent` | 희소 어텐션이 끝나는 백분율 지점입니다. 이 지점 이후에는 어텐션이 다시 밀집 방식으로 돌아갑니다. 기본값: 1.0. | FLOAT | 아니요 | 최솟값: 0.0, 최댓값: 1.0, 단계: 0.01 |
| `dense_blocks` | 항상 밀집 방식으로 실행되는 Transformer 블록입니다. 예: '0, 1, 47-49'. 기본값: "" (빈 문자열). 고급 입력입니다. | STRING | 아니요 | Default: "" |
| `min_tokens` | 이 값보다 짧은 시퀀스는 밀집 상태로 유지됩니다. 기본값: 12288. 고급 입력입니다. | INT | 아니요 | min: 0, max: 1048576, step: 512 |
| `extra_tokens` | 각 쿼리 블록이 선택한 블록 외에 추가로 어텐션하는 최고 점수 토큰입니다. 어텐션 시간이 늘어날수록 밀집 방식에 가까워집니다. 256을 권장하며, 0은 비활성화합니다. VSA에서는 무시됩니다. 기본값: 256. 고급 입력입니다. | INT | 아니요 | min: 0, max: 256, step: 64 |
| `min_tokens` | 이 값보다 짧은 시퀀스는 밀집 상태로 유지됩니다. 기본값: 12288. 고급 입력입니다. | INT | 아니요 | 최솟값: 0, 최댓값: 1048576, 단계: 512 |
| `extra_tokens` | 각 쿼리 블록이 선택한 블록 외에 추가로 어텐션하는 최고 점수 토큰입니다. 어텐션 시간이 늘어날수록 밀집 방식에 가까워집니다. 256을 권장하며, 0은 비활성화합니다. VSA에서는 무시됩니다. 기본값: 256. 고급 입력입니다. | INT | 아니요 | 최솟값: 0, 최댓값: 256, 단계: 64 |
| `sink_conditioning` | MiniMax-H3 전용입니다. `exact_kv`: 모든 쿼리가 패킹된 텍스트/오디오/참조 행에 정확히 어텐션합니다(약 3% 비용). `exact_kv_and_rows`: 추가로 대상 오디오 쿼리 행을 밀집 방식으로 실행합니다(생성된 오디오를 그대로 유지). `off`는 이 동작을 비활성화합니다. 기본값: "exact_kv_and_rows". 고급 입력입니다. | COMBO | 아니요 | `"exact_kv"`<br>`"exact_kv_and_rows"`<br>`"off"` |
| `verbose` | 각 어텐션 형태가 희소 어텐션을 사용했는지 또는 왜 밀집 상태로 유지되었는지를 로그로 기록합니다. 기본값: False. 고급 입력입니다. | BOOLEAN | 아니요 | Default: False |

### sol-attn 입력

| 매개변수 | 설명 | 데이터 타입 | 필수 | 범위 |
|-----------|-------------|-----------|----------|-------|
| `tau` | 점수 분포의 시그마 단위로 표현된 임계값입니다. 값이 높을수록 더 희소해집니다. 1.0은 키 블록의 약 16%를 정확히 유지하고, 1.5는 약 7%, 2.0은 약 2.7%를 유지합니다. 기본값: 1.3. | FLOAT | 아니요 | min: 0.0, max: 4.0, step: 0.05 |
| `tau` | 점수 분포의 시그마 단위로 표현된 임계값입니다. 값이 높을수록 더 희소해집니다. 1.0은 키 블록의 약 16%를 정확히 유지하고, 1.5는 약 7%, 2.0은 약 2.7%를 유지합니다. 기본값: 1.3. | FLOAT | 아니요 | 최솟값: 0.0, 최댓값: 4.0, 단계: 0.05 |

### sla 입력

| 매개변수 | 설명 | 데이터 타입 | 필수 | 범위 |
|-----------|-------------|-----------|----------|-------|
| `keep_percent` | 각 쿼리 블록이 정확히 유지하는 키 블록의 백분율입니다(싱크와 대각선은 추가로 적용됩니다). SLA 스타일 LoRA가 증류 대상으로 삼는 선택 비율입니다. 이러한 LoRA가 없으면 값이 높을수록 밀집 방식에 가까워집니다. 기본값: 10.0. | FLOAT | 아니요 | min: 0.5, max: 95.0, step: 0.5 |
| `keep_percent` | 각 쿼리 블록이 정확히 유지하는 키 블록의 백분율입니다(싱크와 대각선은 추가로 적용됩니다). SLA 스타일 LoRA가 증류 대상으로 삼는 선택 비율입니다. 이러한 LoRA가 없으면 값이 높을수록 밀집 방식에 가까워집니다. 기본값: 10.0. | FLOAT | 아니요 | 최솟값: 0.5, 최댓값: 95.0, 단계: 0.5 |

### vsa 입력

| 매개변수 | 설명 | 데이터 타입 | 필수 | 범위 |
|-----------|-------------|-----------|----------|-------|
| `keep_percent` | 각 쿼리 큐브가 유지하는 비디오 큐브의 백분율입니다. FastH3-VSA 체크포인트는 10에서 학습되었습니다. 모델에 `to_gate_compress` 레이어가 있으면 거친 분기에 사용합니다. 기본값: 10.0. | FLOAT | 아니요 | min: 0.5, max: 95.0, step: 0.5 |
| `keep_percent` | 각 쿼리 큐브가 유지하는 비디오 큐브의 백분율입니다. FastH3-VSA 체크포인트는 10에서 학습되었습니다. 모델에 `to_gate_compress` 레이어가 있으면 거친 분기에 사용합니다. 기본값: 10.0. | FLOAT | 아니요 | 최솟값: 0.5, 최댓값: 95.0, 단계: 0.5 |

**참고:** 현재 선택된 방법에 속하는 매개변수만 인터페이스에 표시됩니다.

Expand Down
Loading
Loading