diff --git a/flo_ai/flo_ai/llm/openai_vllm.py b/flo_ai/flo_ai/llm/openai_vllm.py
index d0f46b5f..47a87d0a 100644
--- a/flo_ai/flo_ai/llm/openai_vllm.py
+++ b/flo_ai/flo_ai/llm/openai_vllm.py
@@ -52,6 +52,7 @@ async def generate(
         vllm_openai_kwargs = {
             'model': self.model,
             'messages': messages,
+            'temperature': self.temperature,
             **kwargs,
             **self.kwargs,
         }