[vc_row][vc_column][vc_headings linewidth=”0″ borderwidth=”1″ borderclr=”#000000″ title=”OpenLLM” google_fonts=”font_family:Comfortaa%3A300%2Cregular%2C700|font_style:700%20bold%20regular%3A700%3Anormal” titlesize=”60″ titleclr=”#000000″]Open Source Library for LLM[/vc_headings][vc_single_image image=”3056″ alignment=”center”][vc_column_text]OpenLLM is an open-source library for large language models. It provides a unified framework for training, deploying, and serving state-of-the-art natural language processing models. OpenLLM is built on top of BentoML, a platform-agnostic model serving solution.[/vc_column_text][vc_separator][/vc_column][/vc_row][vc_row][vc_column][vc_headings style=”theme4″ borderclr=”#000000″ style2=”image” title=”OpenLLM Features” google_fonts=”font_family:Comfortaa%3A300%2Cregular%2C700|font_style:700%20bold%20regular%3A700%3Anormal” lineheight=”3″ titlesize=”40″ titleclr=”#000000″ image_id=”2871″][/vc_headings][evc_icon_with_text type=”icon-left” icon_library=”fontawesome” title_tag=”” icon_fontawesome=”fas fa-shapes” title=”Built-in support for state-of-the-art LLMs” text=”You can use OpenLLM to fine-tune, serve, deploy, and monitor any open-source LLMs and model runtime, including StableLM, Falcon, Dolly, Flan-T5, ChatGLM, StarCoder and more.” text_color=”#0a0000″][evc_icon_with_text type=”icon-left” icon_library=”fontawesome” title_tag=”” icon_fontawesome=”fas fa-plug” title=”Flexible APIs” text=”You can serve LLMs over RESTful API or gRPC with one command, query via WebUI, CLI, our Python/Javascript client, or any HTTP client.” text_color=”#0a0000″][evc_icon_with_text type=”icon-left” icon_library=”fontawesome” title_tag=”” icon_fontawesome=”fas fa-code-branch” title=”Freedom to build” text=”You can easily create your own AI apps by composing LLMs with other models and services. OpenLLM has first-class support for LangChain, BentoML and Hugging Face.” text_color=”#0a0000″][evc_icon_with_text type=”icon-left” icon_library=”fontawesome” title_tag=”” icon_fontawesome=”fas fa-cloud-upload-alt” title=”Streamline deployment” text=”You can automatically generate your LLM server Docker Images or deploy as serverless endpoint via BentoCloud.” text_color=”#0a0000″][evc_icon_with_text type=”icon-left” icon_library=”fontawesome” title_tag=”” icon_fontawesome=”fas fa-cogs” title=”Bring your own LLM” text=”You can fine-tune any LLM to suit your needs with LLM.tuning().” text_color=”#0a0000″][vc_separator color=”sandy_brown” border_width=”3″][/vc_column][/vc_row][vc_row][vc_column][vc_headings style=”theme4″ borderclr=”#000000″ style2=”image” title=”Getting Started 🚀” google_fonts=”font_family:Comfortaa%3A300%2Cregular%2C700|font_style:700%20bold%20regular%3A700%3Anormal” lineheight=”3″ titlesize=”40″ titleclr=”#000000″ image_id=”2854″][/vc_headings][vc_column_text]
OpenLLM requires Python 3.8+ and pip on your system. To avoid package conflicts, use a Virtual Environment.
You can install OpenLLM with the “pip” command :
pip install openllm
To make sure that it is correctly installed, run:
$ openllm -h
Usage: openllm [OPTIONS] COMMAND [ARGS]...
██████╗ ██████╗ ███████╗███╗ ██╗██╗ ██╗ ███╗ ███╗
██╔═══██╗██╔══██╗██╔════╝████╗ ██║██║ ██║ ████╗ ████║
██║ ██║██████╔╝█████╗ ██╔██╗ ██║██║ ██║ ██╔████╔██║
██║ ██║██╔═══╝ ██╔══╝ ██║╚██╗██║██║ ██║ ██║╚██╔╝██║
╚██████╔╝██║ ███████╗██║ ╚████║███████╗███████╗██║ ╚═╝ ██║
╚═════╝ ╚═╝ ╚══════╝╚═╝ ╚═══╝╚══════╝╚══════╝╚═╝ ╚═╝
An open platform for operating large language models in production.
Fine-tune, serve, deploy, and monitor any LLMs with ease.
Starting an LLM Server
To launch an LLM server, use the command openllm start. To start an OPT server, for example, you can use:
openllm start opt
[/vc_column_text][vc_message]After this step, you can access a Web UI at http://localhost:3000 to try out the endpoints and sample input prompts.[/vc_message][vc_column_text]You can use the Python client that comes with OpenLLM to communicate with the model. Open another terminal window or a Jupyter notebook and create a client object to start working with the model:
>>> import openllm
>>> client = openllm.client.HTTPClient('http://localhost:3000')
>>> client.query('Explain to me the difference between "further" and "farther"')
Another way to interact with the model is to run the openllm query This allows you to enter queries and get responses from the model directly.:
export OPENLLM_ENDPOINT=http://localhost:3000
openllm query 'Explain to me the difference between "further" and "farther"'
For OpenLLM’s API specifications, visit http://localhost:3000/docs.json.
To serve different model variants, users can provide the --model-id argument, for example:
openllm start flan-t5 --model-id google/flan-t5-large
To view the supported models and variants in OpenLLM, run the openllm models command.
[/vc_column_text][/vc_column][/vc_row][vc_row][vc_column][vc_column_text]
🧩 Supported Models
OpenLLM supports these models. You need extra dependencies to run some models. Follow these steps to install them:[/vc_column_text][vc_raw_html]%3C%21DOCTYPE%20html%20PUBLIC%20%22-%2F%2FW3C%2F%2FDTD%20HTML%204.01%2F%2FEN%22%20%22http%3A%2F%2Fwww.w3.org%2FTR%2Fhtml4%2Fstrict.dtd%22%3E%0A%3Chtml%3E%0A%20%20%3Chead%3E%0A%20%20%20%20%20%20%3Cmeta%20http-equiv%3D%22Content-Type%22%20content%3D%22text%2Fhtml%3B%20charset%3Dutf-8%22%3E%0A%20%20%20%20%20%20%3Cmeta%20name%3D%22generator%22%20content%3D%22PhpSpreadsheet%2C%20https%3A%2F%2Fgithub.com%2FPHPOffice%2FPhpSpreadsheet%22%3E%0A%20%20%20%20%20%20%3Cmeta%20name%3D%22author%22%20content%3D%22Belmechri%20Hechachna%22%20%2F%3E%0A%20%20%20%20%3Cstyle%20type%3D%22text%2Fcss%22%3E%0A%20%20%20%20%20%20html%20%7B%20font-family%3ACalibri%2C%20Arial%2C%20Helvetica%2C%20sans-serif%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20a.comment-indicator%3Ahover%20%2B%20div.comment%20%7B%20background%3A%23ffd%3B%20position%3Aabsolute%3B%20display%3Ablock%3B%20border%3A1px%20solid%20black%3B%20padding%3A0.5em%20%7D%0A%20%20%20%20%20%20a.comment-indicator%20%7B%20background%3Ared%3B%20display%3Ainline-block%3B%20border%3A1px%20solid%20black%3B%20width%3A0.5em%3B%20height%3A0.5em%20%7D%0A%20%20%20%20%20%20div.comment%20%7B%20display%3Anone%20%7D%0A%20%20%20%20%20%20table%20%7B%20border-collapse%3Acollapse%3B%20page-break-after%3Aalways%20%7D%0A%20%20%20%20%20%20.gridlines%20td%20%7B%20border%3A1px%20dotted%20black%20%7D%0A%20%20%20%20%20%20.gridlines%20th%20%7B%20border%3A1px%20dotted%20black%20%7D%0A%20%20%20%20%20%20.b%20%7B%20text-align%3Acenter%20%7D%0A%20%20%20%20%20%20.e%20%7B%20text-align%3Acenter%20%7D%0A%20%20%20%20%20%20.f%20%7B%20text-align%3Aright%20%7D%0A%20%20%20%20%20%20.inlineStr%20%7B%20text-align%3Aleft%20%7D%0A%20%20%20%20%20%20.n%20%7B%20text-align%3Aright%20%7D%0A%20%20%20%20%20%20.s%20%7B%20text-align%3Aleft%20%7D%0A%20%20%20%20%20%20td.style0%20%7B%20vertical-align%3Abottom%3B%20border-bottom%3Anone%20%23000000%3B%20border-top%3Anone%20%23000000%3B%20border-left%3Anone%20%23000000%3B%20border-right%3Anone%20%23000000%3B%20color%3A%23000000%3B%20font-family%3A%27Calibri%27%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20th.style0%20%7B%20vertical-align%3Abottom%3B%20border-bottom%3Anone%20%23000000%3B%20border-top%3Anone%20%23000000%3B%20border-left%3Anone%20%23000000%3B%20border-right%3Anone%20%23000000%3B%20color%3A%23000000%3B%20font-family%3A%27Calibri%27%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20td.style1%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Aleft%3B%20padding-left%3A18px%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20text-decoration%3Aunderline%3B%20color%3A%230563C1%3B%20font-family%3A%27Calibri%27%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20th.style1%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Aleft%3B%20padding-left%3A18px%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20text-decoration%3Aunderline%3B%20color%3A%230563C1%3B%20font-family%3A%27Calibri%27%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20td.style2%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Acenter%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20font-weight%3Abold%3B%20color%3A%23000000%3B%20font-family%3A%27Segoe%20UI%27%3B%20font-size%3A14pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20th.style2%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Acenter%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20font-weight%3Abold%3B%20color%3A%23000000%3B%20font-family%3A%27Segoe%20UI%27%3B%20font-size%3A14pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20td.style3%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Aleft%3B%20padding-left%3A9px%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20text-decoration%3Aunderline%3B%20color%3A%230563C1%3B%20font-family%3A%27Calibri%27%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20th.style3%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Aleft%3B%20padding-left%3A9px%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20text-decoration%3Aunderline%3B%20color%3A%230563C1%3B%20font-family%3A%27Calibri%27%3B%20font-size%3A11pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20td.style4%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Aleft%3B%20padding-left%3A9px%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20color%3A%23000000%3B%20font-family%3A%27Consolas%27%3B%20font-size%3A10pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20th.style4%20%7B%20vertical-align%3Amiddle%3B%20text-align%3Aleft%3B%20padding-left%3A9px%3B%20border-bottom%3A1px%20solid%20%23000000%20%21important%3B%20border-top%3A1px%20solid%20%23000000%20%21important%3B%20border-left%3A1px%20solid%20%23000000%20%21important%3B%20border-right%3A1px%20solid%20%23000000%20%21important%3B%20color%3A%23000000%3B%20font-family%3A%27Consolas%27%3B%20font-size%3A10pt%3B%20background-color%3Awhite%20%7D%0A%20%20%20%20%20%20table.sheet0%20col.col0%20%7B%20width%3A50.15555498pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20col.col1%20%7B%20width%3A166.73333142pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20col.col2%20%7B%20width%3A133.52222069pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20tr%20%7B%20height%3A15pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20tr.row0%20%7B%20height%3A20.25pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20tr.row18%20%7B%20height%3A30pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20tr.row19%20%7B%20height%3A30pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20tr.row20%20%7B%20height%3A30pt%20%7D%0A%20%20%20%20%20%20table.sheet0%20tr.row21%20%7B%20height%3A30pt%20%7D%0A%20%20%20%20%3C%2Fstyle%3E%0A%20%20%3C%2Fhead%3E%0A%0A%20%20%3Cbody%3E%0A%3Cstyle%3E%0A%40page%20%7B%20margin-left%3A%200.7in%3B%20margin-right%3A%200.7in%3B%20margin-top%3A%200.75in%3B%20margin-bottom%3A%200.75in%3B%20%7D%0Abody%20%7B%20margin-left%3A%200.7in%3B%20margin-right%3A%200.7in%3B%20margin-top%3A%200.75in%3B%20margin-bottom%3A%200.75in%3B%20%7D%0A%3C%2Fstyle%3E%0A%20%20%20%20%3Ctable%20border%3D%220%22%20cellpadding%3D%220%22%20cellspacing%3D%220%22%20id%3D%22sheet0%22%20class%3D%22sheet0%20gridlines%22%3E%0A%20%20%20%20%20%20%20%20%3Ccol%20class%3D%22col0%22%3E%0A%20%20%20%20%20%20%20%20%3Ccol%20class%3D%22col1%22%3E%0A%20%20%20%20%20%20%20%20%3Ccol%20class%3D%22col2%22%3E%0A%20%20%20%20%20%20%20%20%3Ctbody%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row0%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style2%20s%22%3EModel%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style2%20s%22%3EInstallation%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style2%20s%22%3EModel%20Ids%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row1%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%225%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fdocs%2Ftransformers%2Fmodel_doc%2Fflan-t5%22%20title%3D%22%22%3Eflan-t5%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%225%22%3Epip%20install%20%26quot%3Bopenllm%5Bflan-t5%5D%26quot%3B%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fgoogle%2Fflan-t5-small%22%20title%3D%22%22%3Egoogle%2Fflan-t5-small%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row2%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fgoogle%2Fflan-t5-base%22%20title%3D%22%22%3Egoogle%2Fflan-t5-base%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row3%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fgoogle%2Fflan-t5-large%22%20title%3D%22%22%3Egoogle%2Fflan-t5-large%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row4%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fgoogle%2Fflan-t5-xl%22%20title%3D%22%22%3Egoogle%2Fflan-t5-xl%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row5%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fgoogle%2Fflan-t5-xxl%22%20title%3D%22%22%3Egoogle%2Fflan-t5-xxl%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row6%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%223%22%3E%3Ca%20href%3D%22https%3A%2F%2Fgithub.com%2Fdatabrickslabs%2Fdolly%22%20title%3D%22%22%3Edolly-v2%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%223%22%3Epip%20install%20openllm%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fdatabricks%2Fdolly-v2-3b%22%20title%3D%22%22%3Edatabricks%2Fdolly-v2-3b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row7%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fdatabricks%2Fdolly-v2-7b%22%20title%3D%22%22%3Edatabricks%2Fdolly-v2-7b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row8%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fdatabricks%2Fdolly-v2-12b%22%20title%3D%22%22%3Edatabricks%2Fdolly-v2-12b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row9%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%223%22%3E%3Ca%20href%3D%22https%3A%2F%2Fgithub.com%2FTHUDM%2FChatGLM-6B%22%20title%3D%22%22%3Echatglm%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%223%22%3Epip%20install%20%26quot%3Bopenllm%5Bchatglm%5D%26quot%3B%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fthudm%2Fchatglm-6b%22%20title%3D%22%22%3Ethudm%2Fchatglm-6b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row10%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fthudm%2Fchatglm-6b-int8%22%20title%3D%22%22%3Ethudm%2Fchatglm-6b-int8%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row11%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fthudm%2Fchatglm-6b-int4%22%20title%3D%22%22%3Ethudm%2Fchatglm-6b-int4%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row12%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%222%22%3E%3Ca%20href%3D%22https%3A%2F%2Fgithub.com%2Fbigcode-project%2Fstarcoder%22%20title%3D%22%22%3Estarcoder%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%222%22%3Epip%20install%20%26quot%3Bopenllm%5Bstarcoder%5D%26quot%3B%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fbigcode%2Fstarcoder%22%20title%3D%22%22%3Ebigcode%2Fstarcoder%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row13%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fbigcode%2Fstarcoderbase%22%20title%3D%22%22%3Ebigcode%2Fstarcoderbase%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row14%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%224%22%3E%3Ca%20href%3D%22https%3A%2F%2Fguidady.com%2Ffalcon-llm%2F%22%20title%3D%22%22%3Efalcon%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%224%22%3Epip%20install%20%26quot%3Bopenllm%5Bfalcon%5D%26quot%3B%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ftiiuae%2Ffalcon-7b%22%20title%3D%22%22%3Etiiuae%2Ffalcon-7b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row15%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fguidady.com%2Ffalcon-40b%2F%22%20title%3D%22%22%3Etiiuae%2Ffalcon-40b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row16%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ftiiuae%2Ffalcon-7b-instruct%22%20title%3D%22%22%3Etiiuae%2Ffalcon-7b-instruct%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row17%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ftiiuae%2Ffalcon-40b-instruct%22%20title%3D%22%22%3Etiiuae%2Ffalcon-40b-instruct%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row18%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%224%22%3E%3Ca%20href%3D%22https%3A%2F%2Fgithub.com%2FStability-AI%2FStableLM%22%20title%3D%22%22%3Establelm%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%224%22%3Epip%20install%20openllm%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fstabilityai%2Fstablelm-tuned-alpha-3b%22%20title%3D%22%22%3Estabilityai%2Fstablelm-tuned-alpha-3b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row19%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fstabilityai%2Fstablelm-tuned-alpha-7b%22%20title%3D%22%22%3Estabilityai%2Fstablelm-tuned-alpha-7b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row20%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fstabilityai%2Fstablelm-base-alpha-3b%22%20title%3D%22%22%3Estabilityai%2Fstablelm-base-alpha-3b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row21%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fstabilityai%2Fstablelm-base-alpha-7b%22%20title%3D%22%22%3Estabilityai%2Fstablelm-base-alpha-7b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row22%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column0%20style3%20s%20style3%22%20rowspan%3D%226%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Fdocs%2Ftransformers%2Fmodel_doc%2Fopt%22%20title%3D%22%22%3Eopt%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column1%20style4%20s%20style4%22%20rowspan%3D%226%22%3Epip%20install%20openllm%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ffacebook%2Fopt-125m%22%20title%3D%22%22%3Efacebook%2Fopt-125m%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row23%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ffacebook%2Fopt-350m%22%20title%3D%22%22%3Efacebook%2Fopt-350m%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row24%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ffacebook%2Fopt-1.3b%22%20title%3D%22%22%3Efacebook%2Fopt-1.3b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row25%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ffacebook%2Fopt-2.7b%22%20title%3D%22%22%3Efacebook%2Fopt-2.7b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row26%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ffacebook%2Fopt-6.7b%22%20title%3D%22%22%3Efacebook%2Fopt-6.7b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%20%20%3Ctr%20class%3D%22row27%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ctd%20class%3D%22column2%20style1%20s%22%3E%3Ca%20href%3D%22https%3A%2F%2Fhuggingface.co%2Ffacebook%2Fopt-66b%22%20title%3D%22%22%3Efacebook%2Fopt-66b%3C%2Fa%3E%3C%2Ftd%3E%0A%20%20%20%20%20%20%20%20%20%20%3C%2Ftr%3E%0A%20%20%20%20%20%20%20%20%3C%2Ftbody%3E%0A%20%20%20%20%3C%2Ftable%3E%0A%20%20%3C%2Fbody%3E%0A%3C%2Fhtml%3E[/vc_raw_html][/vc_column][/vc_row][vc_row][vc_column][vc_column_text]
⚙️ Integrations
OpenLLM is more than a single solution; it’s a modular component that can seamlessly connect with other advanced tools.. It currently offer integration with BentoML and LangChain.
BentoML
You can use a Runner to incorporate OpenLLM models into your BentoML service. The Runner has a generate function that accepts a prompt string and produces an output string accordingly. This enables you to easily integrate any OpenLLM models with your current ML pipeline.
import bentoml
import openllm
model = "opt"
llm_config = openllm.AutoConfig.for_model(model)
llm_runner = openllm.Runner(model, llm_config=llm_config)
svc = bentoml.Service(
name=f"llm-opt-service", runners=[llm_runner]
)
@svc.api(input=Text(), output=Text())
async def prompt(input_text: str) -> str:
answer = await llm_runner.generate(input_text)
return answer
Hugging Face Agents
Hugging Face Agents can easily integrate with OpenLLM.
[/vc_column_text][vc_message message_box_color=”warning” icon_fontawesome=”fas fa-exclamation-triangle”]Warning: The Hugging Face Agent is under development and may change frequently. To use the most recent API for the Hugging Face Agent, please run OpenLLM with pip install -r nightly-requirements.generated.txt[/vc_message][vc_column_text]
import transformers
agent = transformers.HfAgent("http://localhost:3000/hf/agent") # URL that runs the OpenLLM server
agent.run("Is the following `text` positive or negative?", text="I don't like how this models is generate inputs")
[/vc_column_text][vc_message]Agent integration is compatible only withstarcoder. The previous example used four T4s on an EC2 g4dn.12xlargeinstance.[/vc_message][/vc_column][/vc_row][vc_row][vc_column][vc_column_text]
OpenLLM client allows you to interact with the agent that is running. You can use it to pose queries to the agent:
import openllm
client = openllm.client.HTTPClient("http://localhost:3000")
client.ask_agent(
task="Is the following `text` positive or negative?",
text="What are you thinking about?",
)
LangChain (⏳Coming Soon!)
Soon, LangChain will let you easily use OpenLLM models with this syntax:
from langchain.llms import OpenLLM
llm = OpenLLM.for_model(model_name='flan-t5')
llm("What is the difference between a duck and a goose?")
To access an existing OpenLLM server from a different location, enter its URL in the following format:
from langchain.llms import OpenLLM
llm = OpenLLM.for_model(server_url='http://localhost:8000', server_type='http')
llm("What is the difference between a duck and a goose?")
🚀 Deploying to Production
To deploy your LLMs to production:
-
Building a Bento: OpenLLM lets you create a Bento for any model, such as
dolly-v2, with thebuildcommand.:openllm build dolly-v2
BentoML distributes your program as a Bento. A Bento contains your source code, models, files, artifacts, and dependencies.
-
Containerize your Bento
bentoml containerize <name:version>
BentoML provides a flexible and robust framework for building and deploying ML services online. For more details, see the Deploying a Bento guide.
🍇 Telemetry
To improve the product and user experience, OpenLLM tracks usage data. We only send internal API calls from OpenLLM and protect your privacy by not including any sensitive information. We do not collect any user code, model data, or stack traces. See the code for usage tracking.
To disable usage tracking, use the --do-not-track option in the CLI:
openllm [command] --do-not-track
Or by tweaking the environment variable OPENLLM_DO_NOT_TRACK=True:
export OPENLLM_DO_NOT_TRACK=True
[/vc_column_text][vc_headings style=”theme5″ borderclr=”#000000″ title=”Project External Links” use_theme_fonts=”yes” titleclr=”#000000″ icon=”fas fa-external-link-square-alt” iconclr=”#000000″][/vc_headings][/vc_column][/vc_row][vc_row][vc_column width=”1/2″][mvc_advanced_button align=”center” btn_text=”Github” icon_size=”25″ use_theme_fonts=”yes” btn_icon=”fab fa-github” btn_url=”url:https%3A%2F%2Fgithub.com%2Fbentoml%2FOpenLLM|target:_blank” btn_clr=”#ffffff” btn_bg=”#0a0a0a” btn_radius=”50″][/vc_column][vc_column width=”1/2″][mvc_advanced_button align=”center” btn_text=”Discord” icon_size=”25″ use_theme_fonts=”yes” btn_url=”url:https%3A%2F%2Fl.bentoml.com%2Fjoin-openllm-discord|target:_blank” btn_clr=”#ffffff” btn_bg=”#7289da” btn_radius=”50″ btn_icon=”fas fa-bullhorn”][/vc_column][/vc_row]
0 Comments