HMDと音声認識を利用した絵本の読み聞かせ支援システム 子安さん@青山学院大学 ロペズ研究室

Pocket

研究インタビュー 青山学院大学 相模原キャンパス 理工学部 ロペズ研究室 '17 10/10 14:00

  • テーマとして絵本を取り上げるきっかけを教えてください。

  • 元々、アルバイトとして書店に勤めていた時に、 電子書籍やそれに関することを漠然と考えていました。 丁度そんな時、接客時にお客さんとしてきたお婆さんが、 「書籍の電子化も良いが、子供には絵本を呼んでほしいよね」 というお話をされていました。 今回の実験に使ったサンプル文書も、 アルバイトをしている書店の児童書担当者に売れている本を聞いて選びました。

    私はIT側の人間として、今と違うけど、今と同じようなかたちで読める、 もうちょっと楽しませることができなかと考えていました。

    絵本の場合、元々、手荒に扱われても良いように厚みがあったり、 壊れないようにできていたり、絵本は普通の書籍と 違う形態をしているという面があります。 何でも電子書籍にするのではなく、 そういうところを大事にしたいですね。

    絵本のことを先生と相談したところ、うまく噛み合ったという感じでした。

  • 絵本の読み聞かせについて教えてください。

  • 読み聞かせは日本だけではなく、絵本がある世界では習慣としてあります。

    日本では本の読み聞かせは小学校3年生までは結構行なわれています。 その時は教師ではなく保護者の方がお読みになる場面が結構あります。 読み聞かせが苦手な人もいますが、 やりたい人だけがやるという環境ではないようです。

    実質的に読み聞かせの効果が定量的に示されているテストはないようです。 ただ、文科省が出している情報には、読書と学力の直接の関係はないが、 間接的には関係があるというデータがあります。 読書に親しむための読み聞かせという意味もあるようです。

  • 読み聞かせの良い点は?

  • 親と子が場を共有できる点です。 ライブ感みたいなものがあるんです。緊張感というか。。。

    ミュージカルを生で見る人はいなくなりません。 テレビで見ることもできるにも関わらずです。 そう考えると、媒体が本であるかはともかく、 読んでもらうという行為は無くならないかと思います。

    親子が空間を共有する一つの方法として読み聞かせがあると考えています。 字が読めなくても皆と物語りを共有することの効果があります。

  • 学部時代はどんな研究をしましたか?

  • 幼児における本読書のICTによる拡張システムの提案と実装という題で 研究を進めていました。

    絵本にデバイスを一つ取付け、ページのセンシングを行って、 各ページに応じて光とか振動とか音とかを出して、 子供たちが楽しんで読めるものを考えました。 教育的効果よりも楽しさを第一に考えた上で、 将来的にはエフェクト、アクチュエーションを教育に向けようという考えで、 その時は面白くすることに注力していました。

転倒のダイナミクスを考慮に入れたモデルの構築および検知システムの開発 青山学院大学 大学院 理工学研究科 理工学専攻 博士前期課程2年 柴和彰 □ 概要 高齢者の転倒をセンサを活用して無拘束かつ高精度に検出できるシステムの開発 (i) 研究目的 高齢者の転倒による後遺症は早期発見によって緩和できる ↓ センサを使い高齢者に負担をかけず、高精度に転倒を自動的に検出する (ii) 提案方法 ・ 負担をかけない →マイクロ波ドップラセンサにより無拘束モニタリング ・高精度な転倒検出 →転倒速度に対応する特徴量を算出し、転倒モデルを構築 (iii) 解析データ 周波数解析(ウェーブレット変換)から速度に対応する特徴量を算出 (iv) 結果と課題 判別率 95%&処理時間2秒 転倒の種類を増やしモデルの数を増やす
  • 今回の読み聞かせ支援システムの研究について教えてください。

  • 学部時代に実験として同級生達に読み聞かせを依頼したのですが、 読み聞かせの経験がない同級生もいました。 これにはそうかと納得しました。 読み聞かせには、ただ文章を読むのとは 違うスキルが必要だということが分かりました。 ここから読み聞かせに興味を持ち、 修士に入って読み聞かせ支援の方に注力して研究を進めています。

    今回の研究では音声認識を利用して、読み聞かせの支援を行います。 HMD(Head Mount Display)を使って読み聞かせの最中にナビゲーションやガイドを出し、 これによって読み聞かせがうまくできるという切り口で研究を進めています。 音声認識用のマイクとHMDを身に着けて読み聞かせを行います。

  • 読み聞かせのスキルとは?

  • 一般的には話し方のイントネーション、緩急、間の置き方などです。 保育士さんと保護者の方に どういう部分を意識して読み聞かせをしているかのアンケートを取りました。 この結果、抑揚、大きさ、声色、テンポとスピードを質と捉えて評価することを考えています。

    子供が楽しんでいるかどうかという評価が難しいです。 最初は内容に関するクイズも考えたのですが、 余り差がでないこともあります。 逆に読み聞かせている方がどう感じるのかを第一と考え、 評価指標として考えています。 加えて今回は、声色が変わっているかなど、 ナビゲーションのタスクができているかも評価したいと思っております。

  • 上手な話し方はどうやって判定するんですか。

  • 書店で働いていて際のツテで、 読み聞かせのプロの方にはインタビューさせてもらったり、 講習会に連れて行ってもらったりしました。

    プロの話があり、それに準じていれば、 ナビゲーション成功ということになります。 受け取り手からもアンケートを取り、両方で評価するつもりです。 一概に抑揚や声色が変わったから受け取り手が面白いかどうかという ちゃんとしたデータがありません。 保育士や保護者が読み上げた音声データがあるので、 まずはこれに準じてみようということです。

    実は保育士や保護者へのアンケート結果から、 絵本の位置をしっかりすることが原則としてあることが分かりました。 しかしこれに関しては、立って話すのか座って話すのか、 子供の人数などの場面に関係しますので今回は外しています。

  • ナビゲーションは読み手に対してどう見せたら効果的でしょうか?

  • ナビゲーションを表示させる方法はいろいろ考えています。 カラオケのように声の大きさを示したり、 表情を表すために顔文字のようなものを表示させたいです。 そうなると表情も評価したいですね。 読み聞かせの場合、声を怖くしても表情が怖くないと、 結果として怖くなりません。

    人間の基本表情はポール・エクマンという心理学者が提案していて、 今回はこれをアイコンとして表示させます。

    ナビゲーションは読み手の邪魔にならないことが大事で、 その為には画面の情報量が多くできません。 メーターとテンポと表情をどう画面に表示するかという UI(User Interface)も検討出来たらよいですね。 実験の中で効果的でなかったものは表示させないようにするので、 最終的にもしかしたらメーターはなくなってしまうかもしれません。

  • 技術的制約がなかったとすると将来的に読み聞かせはどうなるんでしょうか。

  • 字が読めない幼児に関しては、読み聞かせは無くならないでしょう。 ただ、小学校低学年に関しては何かに置き換わっていくかもしれません。

    読み聞かせの効果については、 やはりコミュニケーションに触れている論文が多いです。 今後の課題として、機械音声と肉声の違い、側に人がいる時といない時でどう違うか ということがあげられています。

    今回の研究の先の話なんですが、 聞き手に対して質問し、会話ができるシステムも考えられます。 読み聞かせでは 例えば「主人公は何を考えているかなあ?」「次に何をすると思いますか?」など 読み手と聞き手の会話ができます。 これがデジタルだとなかなか難しい、 デジタルはある程度決められたことしかできません。

  • 高校時代からI.T.に関心がありましたか。

  • もともとオンライゲームをよくやっていました。 グラフィックボードも性能がよくなかった時代で、 どうしたら画面がスムーズに動くのか、 自分のゲーム環境をよくするために調べたのが 関心を持ったきっかけです。

    入学してからハードのことも学びながら、 ソフトウェア方面に移行できました。 環境として良かったと思います。

  • プログラミングは簡単にできるようになりましたか。

  • プログラミングは結構苦手でした。 うちの研究室ではプログラミングは手段という部分が大きいので、 動けばいいという面があります。 自分たちの遣りたいことの結果が プログラミングではないという考え方です。

    勿論、他の研究室では特定のプログラミング言語に特化しているところもあります。

    咀嚼の回数が増えた、姿勢がよくなった、 絵本を楽しませることができたという結果を目指すので、 プログラミングはそこまで難しいことはないと思います。 ですので苦手な人でも学科の授業をちゃんと真面目にやっていれば、 困ることはないと思います。 私も大学に入るまではプログラミングの経験はありませんでした。

  • ロペズ研を選んだ理由は?

  • この研究室が若かったいうのもあります。 ロペズ先生はやりたいことを言えば、 やりたいことを尊重してくれ、 ウェアラブル環境で課題をどう解決するか、相談に乗ってくれます。

  • 修士課程はどうでしたか?

  • 修士課程への進学は色々ぐらついたところはありますが、 結果としては良かったと思います。

    今思うと学部の時はやりたいことがフワフワしていました。 学部時代に就活をしている時に、就職は今じゃないと感じました。 修士課程は研究したいからという人もいますし、 やりたいことがあってそれが近いからやっているという人もいますし、 将来を明確にしたいという人もいます。

  • 研究の面白さについて教えてください。

  • 評価が難しい、確立していないので、 自分なりに評価方法を探していく必要があるというのが面白いんじゃないかと思います。 結果が出なくても、結果が出なかったという結果が残るので、 その部分は無駄にならないと思います。

  • 卒業後の進路はどうしますか?

  • 修士を卒業したら出版社に就職します。 編集か営業として総合職採用されました。 どの雑誌、どの書籍に行くかはわかりません。 私はやりたいことがハッキリ決まったので博士にはいきませんが、 それも今の研究があってのことだと思います。

    子供たちが本当に楽しめる雑誌や児童書を創っていきたいです。 雑誌は今、業界として微妙ですが、児童書は逆に売れています。 最終的にはメディアミックスを使ってアニメの方まで行けたらいいなと思います。

ロペズ先生から一言

日常生活に溶け込んだウェアラブルシステム
我々の研究室では「日常生活に溶け込んだ」ウェアラブルシステムをテーマに研究を行っています。日常生活に溶け込んだというのは、1.いつもの道具が利用でき、2.一人でも改善可能なフィードバック、3.いつも通りの動きが行えるという3つの条件があります。
例えば、ウェアラブルデバイスとして特殊なものが必要であれば価格や購入動機を考えなければならず普及の妨げとなりかねません。また、スマートフォンを見ながらという形式であれば、時と場合に依っては普段の動きを制約することになりかねません。
従って、この3条件を念頭に研究を行っています。
子安さんの研究は、小さいお子さんがいらっしゃる親御さんであれば、ごく普通に行っているであろう行動に焦点を当て、システムにまで落とし込んだところに面白さがあります。こうした研究が進めば、我々の生活はより豊かになっていきます。
スマートフォン、スマートウォッチ、スマートグラス(眼鏡)など、様々なIT機能が付加された腕時計や眼鏡が開発されています。日常生活に自然に溶け込みながら、ユーザの体調や気分、室内の環境などをリアルタイムでユーザ毎に合ったフィードバックするのが、私たちのめざすウェアラブル環境情報システムの理想型です。

ロペズ研究室 研究紹介

Keywords: ウェアラブルコンピューティング、マルチメディアデバイス、人間情報学、ウェアラブル環境情報システム、マルチメディアデバイス、センサ情報処理
Themes: ウェアラブルコンピューティング、マルチメディアデバイス、人間情報学、環境情報学
Collaborative Research: ウェアラブル端末とセンサ技術を活用した
・ 健康支援システム
・ 同快適環境提供システム
・ 生体情報分析

「ウェアラブルセンサを用いた健康的な食習慣支援システム」
青山学院大学 理工学部 情報テクノロジー学科 准教授 ロペズ ギヨーム

channel新技術説明会
2018/04/22

「青山学院大学 新技術説明会」(2018年2月8日開催)にて発表。https://shingi.jst.go.jp/list/aoyama/2017_aoyama.html

ウェアラブルデバイスで未来の生活

AR生け花

理工学部 情報テクノロジー学科
ロペズ・ギヨーム先生のウェアラブル環境情報システム研究室
助手の横窪安奈さんが研究しているAR生け花
初心者でも簡単に生け花体験ができます

理工学部情報テクノロジー学科 ロペズ ギヨーム先生の研究紹介 その1 ウェアラブル環境情報システム研究室とは.

理工学部情報テクノロジー学科 ロペズ ギヨーム先生の研究紹介 その2はウェアラブル機器の原点と具体的な研究内容.

理工学部情報テクノロジー学科 ロペズ ギヨーム先生の研究紹介 その3日常生活をより快適にするウェアラブルデバイスとアプリの研究.

理工学部情報テクノロジー学科 ロペズ ギヨーム先生の研究紹介 その4は技能取得・向上・伝承支援のためのウェアラブルデバイスの活用.

ウェアラブル環境情報システム研究室1 学生たちの研究紹介です 眠気をさますデバイス、疑似コーディネート体験、野球がうまくなるシステム

ウェアラブル環境情報システム研究室2 学生たちの研究紹介です ぬいぐるみのリラックス効果を高める研究や肥満を抑える研究など

最近無線通信ネットワークの普及と高速化や、スマート家電の出現により、スマートフォンが生活に欠かせないマルチメディアデバイスになってきた。ロペズ研究室では、より快適で健康な生活を支える目的として、スマートフォンの性能をさらに伸ばす事と共に、情報と環境をウェアラブル化する次世代マルチメディアシステム(仕組み、ハードと、ソフト)の構想と開発を目指して、ウェアラブル環境情報システムに関する研究開発を行っている。

人間が有する情報(体調、行動、感情など)と生活環境(家、オフィス、自動車など)が有する情報(空調、照明など)を統合して取り扱うことによって、より快適な生活環境を実現しつつ、社会環境との調和向上に貢献できる。

大きく分けて「センシング」「信号処理・情報分析」「フィードバック」の3ステップを統合的に行うハードウェアとソフトウェアで構成されるシステムの研究開発を行っている。

センシング
既存および自作の小型なウェアラブルセンサを用いて人間体が発信している信号を計測(センシング)する。

信号処理・情報分析
様々な分析技術(信号処理、データ解析、データマイニング等)を用いて、その状態を推定する。

フィードバック
携帯端末(腕時計、メガネ、スマートフォン、タブレット等)上で表示、管理を行う。

また、無線通信技術を用いて、周辺環境の情報を取得し、コンテキストを推定することで、日常生活における個人の快適度と環境の省エネルギー化を両立するためのフィードバック起動(指令、推薦、表示)を行う。

ウェアラブル端末とセンサ技術を活用した健康支援システム、快適環境提供システム、及び生体情報分析に関する共同研究例がある。

塗装作業における熟練者の動作特徴を考慮したAR技能訓練システムの開発 矢澤慧さん@青山学院大学 松本研究室 インタビュー
Symposium2018