PLaMo 3 Translateをスマホに入れてWeb翻訳できるようにした
1画面に収まる場合、デフォルトにあるHOME画面長押しの翻訳機能を使えばいいが、長いと性能が微妙なブラウザの翻訳機能を使うことになるので。
下記のような構成である。
図を読み込めませんでした
PlantUML Serverの応答、通信状況、または記法を確認してください。
PlantUMLソースを表示
@startuml
!pragma layout smetana
top to bottom direction
skinparam defaultFontName Meiryo
skinparam defaultFontSize 14
skinparam shadowing false
skinparam roundcorner 14
skinparam ArrowColor #475569
skinparam defaultFontColor #17233A
skinparam packageStyle rectangle
skinparam BackgroundColor #FFFFFF
skinparam TitleFontSize 22
title PLaMo 3 Translateによる端末内Web翻訳
actor "利用者" as Reader
cloud "Webサイト\nBluesky・一般サイト" as Web #F1F5F9
rectangle "Galaxy Z Fold6(Android)" as Device #F8FAFC {
package "Kiwi Browser" as Kiwi #DBEAFE {
component "Webページ\n日本語表示 ⇄ 原文" as Page #FFFFFF
component "Immersive Translate\n本文の抽出・翻訳の切替" as Extension #FFFFFF
}
package "Termux" as Termux #CCFBF1 {
component "llama.cpp(llama-server)\nOpenAI互換の翻訳API" as Server #FFFFFF
artifact "PLaMo 3 Translate 0.8B\nGGUF · Q4_0" as Model #FFFFFF
}
}
Reader --> Page : 翻訳ボタンで切替
Web <--> Page : HTTPS\nページ・検索結果の取得
Page <-right-> Extension : 原文の抽出\n訳文の表示
Extension <--> Server : 翻訳対象の本文 ⇄ 日本語訳\nHTTP 127.0.0.1:8080\n/v1/chat/completions\n認証あり・同時処理1
Server -right-> Model : 端末内で推論
@enduml
所感
PCにスマホつないでCodexにこれやって、って言えば作れるの楽すぎるな。