ラズパイ+Google APIでスマートデバイスを作ろう! 第5回:旅先で便利に使える!? 外国語読み取り自動翻訳メガネ!

こんにちは、ヨシケンです!ここまでラズパイを使って、音声聞き取りや翻訳などをやってきました。
今回は更にカメラによる画像解析を使って、旅先などで知らない言葉が出てきた時に読み取り、日本語に翻訳してくれるメガネを作りたいと思います。前回の翻訳イヤフォンと合わせれば、旅先で見て、聞いて、いつでも日本語にしてくれる夢のデバイスになるはずです!
1a

 

今回の記事で必要な物一覧

・Raspberry Pi Zero W
Raspberry Pi Zero W


・ラズパイ・カメラモジュール

(ラズパイ公式カメラです。これと同形状で夜間撮影が可能なPiNoIRカメラもあります。)
ラズパイ・カメラモジュール

・Seeed ReSpeaker 2-Mic Pi HAT
Seeed ReSpeaker 2-Mic Pi HAT

・小型スピーカー
秋月電子通商などで販売しています)
小型スピーカー

・スイッチ付きブレイクアウト基盤
(Adafruit 2ピンJST-PHコネクタ)
スイッチ付きブレイクアウト基盤

・小型バッテリー
(リチウムイオンポリマー電池
※注意:取り扱いに充分気を付けて自己責任でお使いください)
小型バッテリー

・ケース
(フリスクなどの空き箱を流用しています)

・だてメガネ
(100円ショップなどで購入。必要に応じて。)

 

今回の記事の流れ

1.Google AIY、ReSpeakerのセットアップ
2.カメラの接続、Google Visionの設定
3.Google Translateの設定、Visionへの組み込み
4.メガネ型デバイスにする
5.まとめ

 

1.Google AIYとReSpeakerのセットアップ

今回も小型ラズパイのRasPi Zeroと、ReSpeaker 2-MicにGoogle AIYをインストールして使っていきます。これまでの記事を参照して、Google AIYのインストールReSpeakerのセットアップをしておいてください。
Google AIYとReSpeakerのセットアップ
写真のようにZeroとReSpeakerをセットし、スピーカーから音が出力できるよう、確かめておいてください。
またZero用のカメラケーブルを使って、カメラとラズパイをつなぎます。
ReSpeakerに付いているボタンを利用し(ラズパイとはGPIO17番につながっています)、以下のようなプログラムで機能を切り替えるようにします。ボタン長押しで写真撮影、押した回数により音声聞き取り、発話などを行ってみます。

[button_action.py]

このように1回押しで録音、2回でそれを出力、そして長押しで写真を撮るアクションをボタンで操作しています。
1回押しで録音、2回でそれを出力、そして長押しで写真を撮るアクションをボタンで操作

 

2.カメラ、Google Visionの設定

ラズパイZeroで、写真撮影、音声の入出力といった基本的な事ができるようになったら、GoogleのAPIを使って、そこに何が写っているのかを解析できるようにしましょう。
Googleの画像解析機能として、Google Vision APIがあります。これは画像検索などに使われている機能を、ラズパイで使いやすいPythonから簡単に呼び出す事ができるようになっています。Visionには、ラベル(物や風景など)、顔検出やロゴ判別と共に、テキスト読み込みの機能があります。

Pythonでカメラが扱えるpicameraをインストールします。これまでのようにsmartフォルダを使っていき、その中に画像を格納するimageフォルダを作ります。また翻訳イヤフォンの設定のように、Googleのサービスアカウントキーが必要ですので、取得して、exportしておきます。

$ sudo pip install python-picamera
$ cd ~/AIY-projects-python/src/smart
$ sudo mkdir image
$ sudo chmod 755 image
$ export GOOGLE_APPLICATION_CREDENTIALS=”/home/pi/[FILE_NAME].json”
$ sudo vi vision.py

 
Google Visionを使った画像解析プログラムを作ります。
[vision.py]

このプログラムをpython3 vision.pyと流すと、カメラで写真が撮られ、それをラベルや顔認識などを行い、英語で話してくれるはずです。
python3 vision.pyと流すと、カメラで写真が撮られ、それをラベルや顔認識などを行い、英語で話してくれる
また–detect textとすれば、言語の読み取りを行います。(この時点だと英語読み取り、発話のみ)
--detect textとすれば、言語の読み取りを行います

 

3.Google TranslateのVisionへの組み込み

このデバイスは旅先で外国語を読み取るのを目的としているので、Google Translateを使って、読み取った情報を日本語に変換します。前回の翻訳イヤフォンの記事を参照して、Translateをアクティベートしておきます。また日本語発話のためのAquestTalkも、導入が済んでいない方は、下記のようにインストールしておいてください。

 

$ pip install –upgrade google-cloud-translate(ダウンロードしたPCから) scp aquestalkpi-20130827.tgz pi@raspi.local:AIY-projects-python/src/
(ラズパイにログオンして) $ tar zxvf ~/AIY-projects-python/src/aquestalkpi-20130827.tgz

先ほどのvisionプログラムにtranslate機能を追加します。以下の黄色の部分が追加部分です。
[vision_trans.py]

 
このプログラムをpython3 vision_trans.py –detect text –trans ja-JPという形で流してみましょう。対象とする画像中の言語を指定する必要はなく、自動的に中国語やイタリア語などを読み取ってくれます。
対象とする画像中の言語を指定する必要はなく、自動的に中国語やイタリア語などを読み取ってくれます

 

4.ウェアラブルVisionめがねを作り上げる

それでは最後にそれぞれをまとめて、ウェアラブル機器にします。
ReSpeakerにはラジオジャックだけでなく、スピーカー対応のコネクタもあるので、こちらにミニスピーカーをつなぎます。
電源は前回のようにリチウムイオンポリマー電池を使います。充電や電源としての使用は自己責任で充分注意して使ってくださいね。RasPi Zeroの電源裏側にスイッチをハンダ付けします。そこにリポ電池をつないで、電源が入るか確認します。
それでは最後にそれぞれをまとめて、ウェアラブル機器にします。

 
ZeroとReSpeakerの間にぴったり電池が入るようにします。外装にはフリスクのケースを加工して、本体、カメラ、電池などが収まるようにします。カメラはこの写真の向きが正面になります。
ZeroとReSpeakerの間にぴったり電池が入るようにします

 
スピーカー、スイッチも使いやすい位置にセットします。
スピーカー、スイッチも使いやすい位置にセットします

 
今回はメガネの横に付けて、カメラの方向を固定し、何となく未来のメガネっぽくしています。好みに合わせて形作ってみてください。
今回はメガネの横に付けて、カメラの方向を固定 

最後に先程のbuttonプログラムを改造して、機能をコントロールします。
ボタン長押しで、対象物の写真を撮り、そこに写ったテキスト(外国語)を日本語に変換するようにします。
ボタン一回押しで、外国語を聞いてそれを日本語にして返してくれる機能も付けます。これは前回のcloudspeech_trans.pyを使います。
また二回押しで自分が話した日本語を外国語に翻訳するようにします。

 
[button_trans.py]

これだけやれば外国語の看板などを訳し、話し声を日本語にし、そして自分の言葉を外国語に変換してくれるという万能の(?)メガネのできあがりです!
では、やってみましょう。外で使うときもWi-Fiなどのネットワーク接続は必要ですので、ポケットWi-Fiやテザリングなどを用意してくださいね。
まずはこのような中国の列車の表示を訳してみましょう。button_trans.pyには、–trans ja-JPと付けます。
自分の言葉を外国語に変換してくれるという万能の(?)メガネ
また例えばタイの田舎のレストランに行った時に、こんなタイ語だけのメニューがあった時に役立つかもしれません。
タイ語だけのメニューがあった時に役立つかもしれません
また、イタリア旅行に行ったとして、鉄道の駅の看板やイタリアの人に行き方を聞くシチュエーションでも使ってみましょう。この時は、–speech it-IT –trans ja-JPを付けています。
まず1回押して、イタリア語で喋った内容(il treno diretto ~の部分をパソコンから発音させています)を、見事「ローマ行きの列車は~」と日本語に訳してくれています。
鉄道の駅の看板やイタリアの人に行き方を聞くシチュエーションでも使ってみましょう
また2回押して、日本語で「ローマの行き方を教えて」と言うと、それをイタリア語「Dimmi come arrivare~」と発音してくれています。
日本語で「ローマの行き方を教えて」と言うと、それをイタリア語「Dimmi come arrivare~」と発音
最後にボタンを長押しで画像を見せて(イタリアの鉄道の標識)、それを解読し、なんとか日本語にしてくれています。
ボタンを長押しで画像を見せて(イタリアの鉄道の標識)、それを解読し、なんとか日本語
こちらが実際使っている時の動画です。

見て、聞いて、喋るメガネデバイス、これからの旅行シーズンに便利に使えるのではないでしょうか!?

 

5.まとめ

今回は、RasPi Zeroにカメラを付け、Googleの画像解析機能Vision APIを使い、文字読み取りを行いました。Google Translateと合わせて、外国語の看板などを日本語に訳してくれるようにし、旅行などに使えるウェアラブル機器になっています。
Google Visionはこのテキスト読み取り以外にも、定番の顔検出やラベル検出(物や風景の読み取り)もあり、今回のvision_trans.pyに、–detect faceやlabelと付けるとさまざまなものを読み取ってくれますので、試してみてください。

これまで、ラズパイとGoogleのAPIを組み合わせて、話題のGoogle Homeのようなものや、自動議事録機、そして翻訳マシーンなどを作ってきました。
ラズパイがあれば市販品やびっくりするような機能が、安価に、そして自分の手で作れてしまいます。
これからも自由な発想に任せて、モノ作りしていきましょう!

(ヨシケン)

電子工作マニュアル Vol.3
ヨシケン(吉田 顕一)

普通の会社に勤めるサラリーマンですが、モノ作りが好きな週末メイカーで、電子書籍MESHBOOKを出したり、ブログを書いたりしています!

http://blog.ktrips.net