herb786/Flux2-chiquito-base-9B

• —Modelo cuantizado para black-forest-labs/FLUX.2-klein-base-9B.
• —Este modelo fue cuantizado con una GPU L4 con la herramienta torchao en su versión 0.18.0 con la intención de reducir el consumo de memoria.
• —Cargar de la manera acostumbrada con diffusers. Funciona con diffusers 0.41.0.dev0.

Puedes ver tu versión de torchao y diffusers en tu jupyter notebook con este comando

 %pip show torchao diffusers

This model falls under the FLUX Non-Commercial License.