@masaka とりあえず、尼子ねlexからの裏でlambdaで継続文脈できるやつ作ろう。。あといつものテキストインデキシングと、langchainで外部ググらせるやつ
受注botは注文内容をweb画面で最終確認させる、みたいなのが必須とか言われてるんですが（社内の営業の人に）ほんとかな？ていうかそんなの定型化できないのでは？あるいは逆に、baseとかshopifyとかをうまく使えないかな（商品マスターおよび、カート機能として使う
そう考えると、ボイスbot受注はec通販サイトのオプション的に作る方が筋のような気がしてきた
Original Link
@masaka 某大手企業でボイスbotでのpocやってて、そろそろ終わるらしくつぎは本番らしいが業務内容はかなり絞り込んでいて、それでも相当慎重にやっており、まあ雑にやると大体失敗しそう（使えませんねで終わる）気はする
社内調整をちゃんとやってるかが大事で、雑にツール買ってきてすぐ使えますみたいな風にはまだだいぶかかりそう。と言ってもまあ2年くらいかもだけど。gpt的なものに判断させるテクニックにそもそもみんな気づくだろう
Original Link
@masaka ご注文はこれで良いですか？（復唱）とかをtranscribeからgptにぐるぐる回してbotのスロット埋めさせて（はい、いいえ、の二択を確定させる）と良さそう
最後に数字3桁で843と入れてください、とかで誤操作を防ぐ、みたいなのもいいかもと思いついたのでメモ（そこも音声でもいいかも
Original Link
このWikipedia読みました、って呟くのと同じように、このプロンプトでgptに質問してこういう回答出ました、てのを呟けるようになると色々面白そう。あと、他の人はこういうプロンプトで質問しています、みたいなのが見れるようになると周辺の知識も得やすくなりそう。
でもそこもgptに聞いちゃうけどね。この周辺で他に面白い話はありますか？的に。
あと、Twitterのニアリアルタイムリトリーバgptが出たら相当やばいね。それはTwitterにしか作れないだろう（データ持ってる側
Original Link
尼子ねからLexからTranscribeして結果をGPTに渡せば、普通にそこそこ動くボイスボットで自動注文受け付け作れるな。。。Transcribeでいけてないところをほぼほぼカバーできる。。
あと、LexからのTranscribeのときの語彙登録ってできないと思っていたができるぽい。語数も増えてる？
Creating a custom vocabulary to improve speech recognition - Amazon Lex
https://docs.aws.amazon.com/lexv2/latest/dg/vocab.html
Original Link
はい、で、これを超大量のデータで学習しメモリ上に展開されているなにかのデータをなにかのフォーマットでファイルに落としたものがいわゆるLLM（大規模言語モデル）で、ファイルフォーマットが何なのかよくわからないけと末尾に .pthってついてるやつなんだろうな そのあたりを理解したい
【Pytorch】Transformerを実装する - Qiita
https://qiita.com/gensal/items/e1c4a34dbfd0d7449099
Original Link
ii★oka氏お勧めらしい
菊水 鶏白湯 白味噌 - Google 検索 https://www.google.co.jp/search?q=%E8%8F%8A%E6%B0%B4+%E9%B6%8F%E7%99%BD%E6%B9%AF+%E7%99%BD%E5%91%B3%E5%99%8C&ie=UTF-8&oe=UTF-8&hl=ja-jp&client=safari
Original Link
ダブリンのサポートのマネージャー募集してるってｗ UKだとお給料はそんなに高くないそうです、って言っても今の自分の年俸よりは高そうだが。。どうなんでしょうかね
まあマネジャーでAWSに入るのはコミュニケーション力とか試されそうで、自分が入れる気が全くしませんが。。。わたくし、知り合いに入れてもらう以外で転職したことないし
Original Link
LLMのモデルファイル、ものすごい小さいやつで６GBとかある 普通は３０GB
ので、MBA 内蔵SSD 256GBじゃつらい とりあえずParallelsとかのWindowsディスクイメージは捨てた（どうせつかってない やはり外付けLightning接続SSDドライブが必要か。。。
Original Link
MacでChatGPTで日本語IMEでEnterすると送信されてしまう件の対策方法（いまさら
【ChatGPT】Enterで改行せずに、Ctrl+Enterで送信する方法 | ナポリタン寿司のPC日記
https://www.naporitansushi.com/chatgpt-enter-send-disable/
Original Link
トイルとは、サービスの提供に欠かせない作業の中で、自動化が可能であるにも関わらず手作業で行われているものを指します。 例えば手順書のコマンドをコピー&ペーストして実行するだけのような自動化できるような作業
トイル - Google 検索 https://www.google.co.jp/search?q=%E3%83%88%E3%82%A4%E3%83%AB&ie=UTF-8&oe=UTF-8&hl=ja-jp&client=safari
Original Link
@masaka とか言ってたら、軽量なllamaだそうです
Independent implementation of LLaMA that is fully open source under the Apache 2.0 license.
This implementation builds on nanoGPT.
GitHub - Lightning-AI/lit-llama https://github.com/Lightning-AI/lit-llama
Original Link