Los tres modelos responden a distintos requisitos de servicio y latencia. El modelo 7B, por ejemplo, puede operar en una sola GPU. El modelo 34B ofrece los mejores resultados y permite una mejor asistencia a la codificacin, pero los modelos ms pequeos de 7B y 13B son ms rpidos y adecuados para tareas que requieren baja latencia, como la finalizacin de cdigo en tiempo real.