2022/11/04

Сначала я собирался написать в блоге о том, как побудить BLOOM стать врачом, но вскоре понял, что LLM хорошо извлекают информацию из заданного текста, но довольно плохо работают с предметными знаниями, отсутствующими в тексте, поэтому я отказался от проекта и решил пойти другим путем.

Я всегда хотел создать чат-бота, но результаты всегда были, мягко говоря, бесполезными. Тексты были непоследовательны, и у меня было очень мало опыта фронтенд-разработки. У меня до сих пор почти нет навыков во фронтенд-разработке, но с моим хорошим другом Градио я думаю, что со мной все будет в порядке.



Gradio
Создавайте восхитительные приложения для машинного обучения и делитесь имиgradio.app



У Gradio уже есть пример шаблона для ответов на вопросы, не совсем то, что я искал, но в качестве первого проекта упражнения он должен подойти.

Воспринимайте этот пост как мою практику работы с Gradio.

Моя первая попытка.

Как и все, это не работает. Выходная часть застряла в бесконечном цикле.

Возможно, ошибка была в том, что выходов было два. Давайте изменим это.

Оно работает! Но он выводит весь текст. Давайте это исправим.

Одна проблема, которую я понял при работе с Gradio, заключается в том, что я не уверен, является ли это проблемой для каждого инструмента разработки интерфейса, когда возникает ошибка, программа просто зацикливается, без сообщений об ошибках, без остановки, без ничего.

Этот код сводит исходный шаблон к интерфейсу с одним входом и одним выходом, а ответ не включает текст вопроса.

Но это создает лишний код. Нам нужен только краткий ответ. Не полноценный разговор, созданный сам по себе.

Эта версия будет отображать только часть ответа без дополнительной строки текста.

Кажется, работает. Но, чтобы подтвердить, это общий вывод.

Кажется, работает так, как я хотел!

Чем больше я пытался это сделать, тем больше понимал, что модель хороша настолько, насколько хорош пользовательский опыт. Я должен более серьезно относиться к разработке интерфейса. Может быть, завести фронтенд-дневник.

Мой код:



Google Colaboratory
Изменить описаниеcolab.research.google.com