Illumi-mory：通過AR技術(shù)創(chuàng)造并帶來閱讀記憶

石 磊 洪玉潔 （寧波大學(xué)科學(xué)技術(shù)學(xué)院 315000）

由于科技的快速發(fā)展，我們可以在不同的設(shè)備上閱讀，但實(shí)體書在我們的生活中仍不可或缺。我們喜歡實(shí)體書的可觸感，但我們難以通過實(shí)體書的文字去理解一些內(nèi)容，特別是一些小說和奇幻的場景。通過實(shí)體書我們?nèi)绾误w驗(yàn)從過去穿越到未來的感覺？如何體驗(yàn)愛麗絲夢游仙境？

試想一下，我們能否利用AR技術(shù)讓我們在場景描寫中體驗(yàn)到閱讀的真實(shí)感？如果這個(gè)系統(tǒng)足夠聰明，那它是否能意識(shí)到我們在哪里，并向我們發(fā)送信號(hào)，提醒我們閱讀了什么？

當(dāng)我們碰到新的知識(shí)點(diǎn)，我們會(huì)自然而然的去查相關(guān)資料。但是如果我們不能夠清楚地記得我們要查詢的知識(shí)點(diǎn)，我們通常會(huì)再返回去看一遍。難道我們一定要再去看一遍？我們能否換一種方式直接提醒我們這個(gè)知識(shí)點(diǎn)？

Illumi-mory系統(tǒng)使用AR信號(hào)作為內(nèi)容/記憶存儲(chǔ)器，并可穿戴，輸出一個(gè)微小的信號(hào)作為提醒。

我們認(rèn)為把AR技術(shù)和環(huán)境智能化結(jié)合在一起是比較有趣的，這種體驗(yàn)更能注意到不同的閱讀環(huán)境——這是一種很好的記憶重放方式。當(dāng)我們閱讀的時(shí)候，我們會(huì)注意到周圍的環(huán)境，例如，大部分人在圖書館更能集中注意力。

我們選擇可穿戴的（例如珠寶）物體來表現(xiàn)光，因?yàn)樗吮容^親密——我們每天都戴著它，就像我們帶智能手機(jī)一樣。傳感器可以收集到很多人體信息，從而解鎖不同的內(nèi)容。

圖2：使用環(huán)境智能化可以在特定的時(shí)間和空間內(nèi)了解你的閱讀環(huán)境

相關(guān)工作：

這項(xiàng)研究涉及到幾個(gè)方面，例如增強(qiáng)實(shí)際閱讀量，通過顏色增強(qiáng)數(shù)字化記憶和環(huán)境智能化。

在當(dāng)今的教育環(huán)境下，閱讀和與實(shí)體書的互動(dòng)是學(xué)習(xí)過程中的重要組成部分[1]。我們之前一直致力于研究通過AR優(yōu)化實(shí)體書閱讀過程。

例如，在文獻(xiàn)[2]有人開發(fā)了一套優(yōu)化實(shí)體書閱讀過程的系統(tǒng)，給年輕讀者提供與書本內(nèi)容互動(dòng)的機(jī)會(huì)，通過在手持式顯示器上標(biāo)記基準(zhǔn)點(diǎn)，看到更準(zhǔn)確的3D圖形。閱讀這本書籍并與之互動(dòng)，為用戶提供了多感官體驗(yàn)，這是很難通過其他技術(shù)實(shí)現(xiàn)的。在文獻(xiàn)[3]中作者給出了一個(gè)系統(tǒng)，可以自動(dòng)將印刷技術(shù)文檔（如手冊）傳送到三維現(xiàn)實(shí)中。它幫助用戶將手冊中的圖像直接匹配到實(shí)體對象上，減少認(rèn)知縫隙。

學(xué)習(xí)環(huán)境中的環(huán)境智能：

根據(jù)Cook等人[1]，任何智能環(huán)境都可以被分解成四個(gè)基本層：物理、通信、信息和決策。每一層在環(huán)境中扮演不同的角色，促進(jìn)不同的操作并滿足特定的要求。在文獻(xiàn)[1]中，作者給出了一個(gè)環(huán)境類只讀存儲(chǔ)器，它幫助學(xué)生感知上下文，從而提高他們在閱讀時(shí)檢索和呈現(xiàn)相關(guān)材料的學(xué)習(xí)效率；在寫作時(shí)，它隨時(shí)可以提供幫助以便于完成他們的寫作任務(wù)。Hanzi Lamp是一個(gè)AR學(xué)習(xí)系統(tǒng)，通過改進(jìn)系統(tǒng)對現(xiàn)實(shí)學(xué)習(xí)環(huán)境的掌握情況來探索如何加快漢字學(xué)習(xí)。

顏色和記憶：

對人類來說，顏色是最重要的視覺體驗(yàn)，[4]它作為人類認(rèn)知系統(tǒng)的一個(gè)強(qiáng)有力的信息通道，在增強(qiáng)記憶能力方面起著重要的作用。[5]色彩在學(xué)習(xí)和教育，營銷，溝通，甚至運(yùn)動(dòng)方面起著重要的作用。事實(shí)上，研究表明，生動(dòng)的色彩線索有助于提高阿爾茨海默病患者的短期記憶能力。[6]

在Illumi-mory系統(tǒng)中，我們打算使用顏色作為外圍提示來鼓勵(lì)用戶回憶他們以前的閱讀體驗(yàn)。我們利用手機(jī)內(nèi)置攝像頭識(shí)別文本/圖像，同時(shí)通過照相來記錄周圍環(huán)境的優(yōu)勢，然后，我們通過從像素中提取顏色信息來設(shè)計(jì)調(diào)色板。最終一種主要顏色被計(jì)算出來，代表了相應(yīng)環(huán)境的主要顏色色調(diào)?；谶@一功能，可以很容易地集成其他功能，如記錄聲音甚至氣味。

圖3：從左到右：通過照相記錄環(huán)境；分析環(huán)境的像素，提取出主色調(diào)

執(zhí)行情況

我們通過一個(gè)概念原型來證明這個(gè)想法。軟件和硬件工具包括統(tǒng)Unity 3D，vuforia sdk，Samsung Galaxy Note III，Arduino，LightBlue Bean，Neopixels和webcam。關(guān)于軟件方面，我們使用跨平臺(tái)的游戲程序Unity 3D為安卓設(shè)備創(chuàng)建APPs。我們使用vuforia sdk，這是一個(gè)可以使用任何圖像作為標(biāo)記的AR框架，在統(tǒng)一環(huán)境中進(jìn)行文本/模式識(shí)別，我們還可在其上創(chuàng)建并覆蓋信息（視頻/3D模型/圖像）。IO.Ports系統(tǒng)被用來聯(lián)系Unity 和 Arduino in C#.。Light Blue Bean是一種新的兼容藍(lán)牙技術(shù)的Arduino，它可以無線上傳你的代碼到板子上。

主要功能

當(dāng)這個(gè)攝像頭第一次掃描到不熟悉的詞，例如VERITAS，它會(huì)提供用戶全面的解釋例如一個(gè)視頻/圖表/照片。同時(shí)它會(huì)自動(dòng)地記錄周圍的環(huán)境。這個(gè)環(huán)節(jié)分析了環(huán)境的主色調(diào)。Illumimory系統(tǒng)會(huì)記錄你查詢每個(gè)單詞的次數(shù)。所以，在第二次/第三次/...當(dāng)你查詢這個(gè)詞的時(shí)候，它會(huì)根據(jù)以前記錄的環(huán)境中的主色調(diào)打開光。

使用方法

Illumi-mory系統(tǒng)可以被用在不同的APP上來支持用戶的閱讀行為。利用AR技術(shù)，Illumi-mory系統(tǒng)可以同步記錄你閱讀的地點(diǎn)，學(xué)習(xí)的頻率和你喜歡的內(nèi)容不喜歡的內(nèi)容。開發(fā)者可以制作目錄讓Illumi-mory系統(tǒng)表現(xiàn)得更好。以下是三種我們推薦使用Illumi-mory系統(tǒng)的場景。

學(xué)習(xí)和重放記憶

當(dāng)你在圖書館溫暖的黃燈下閱讀時(shí)碰到一個(gè)國外的單詞/專業(yè)的術(shù)語，例如“拋物線”，你不理解這個(gè)詞的意思，這時(shí)你可以打開Illumi-moryAPP，用你的智能手機(jī)對準(zhǔn)這個(gè)單詞，然后在你的手機(jī)屏幕的文字旁邊會(huì)出現(xiàn)一個(gè)相關(guān)的圖表解釋。有一天，你在其他的雜志上看到這個(gè)單詞但不能夠清楚的記得他的準(zhǔn)確意思。你用這個(gè)APP來查詢它，但是這一次，這個(gè)APP不會(huì)給你解釋，相反，你戴上黃色燈的項(xiàng)鏈在你周圍創(chuàng)造了一個(gè)黃色的環(huán)境，也播放了被記錄的周圍環(huán)境的聲音。你會(huì)感覺你被帶到當(dāng)你在圖書館閱讀的那一天并記起“拋物線”的圖表和意思。

圖4：用你的智能手機(jī)對準(zhǔn)這個(gè)單詞，然后在你的手機(jī)屏幕的文字旁邊會(huì)出現(xiàn)一個(gè)相關(guān)的圖表解釋

圖片5：你戴上黃色燈的項(xiàng)鏈在你周圍創(chuàng)造了一個(gè)黃色的環(huán)境，也播放了被記錄的周圍環(huán)境的聲音

游戲化：

在學(xué)習(xí)時(shí)使用Illumi-mory系統(tǒng)，它會(huì)記錄你學(xué)習(xí)單詞的次數(shù)和學(xué)習(xí)單詞的數(shù)量。在你學(xué)習(xí)了一段時(shí)間后，有趣的內(nèi)容將會(huì)被解鎖，比如一個(gè)有趣的視頻或者一個(gè)很棒的3D交互模型，以此來激勵(lì)你的努力。

圖6：完成指定的學(xué)習(xí)時(shí)間解鎖有趣的內(nèi)容

推薦系統(tǒng)：

你可以對你閱讀過的書籍用顏色進(jìn)行標(biāo)記喜歡與否，這個(gè)系統(tǒng)會(huì)根據(jù)可穿戴的設(shè)備表現(xiàn)出的顏色來給你推薦一些書籍。例如，你用你最喜歡的紫色來標(biāo)記你最喜歡閱讀的書，比如你喜歡那些被設(shè)計(jì)的書和女人標(biāo)記的書，討厭那些帶有暴力標(biāo)簽的書。當(dāng)一天你去圖書館/書店的時(shí)候，你選擇的書你不確定是否會(huì)喜歡。這時(shí)你可以打開你的照相機(jī)對準(zhǔn)書本的條形碼，這時(shí)項(xiàng)鏈會(huì)發(fā)出表示不受喜歡的白色的光來提醒你，你可能不想要閱讀這本書，因?yàn)檫@本書是關(guān)于第二次世界大戰(zhàn)的。然而當(dāng)你掃描扎哈?哈迪德的書時(shí)，會(huì)顯示紫色的燈光表示你可能會(huì)享受這本書。用戶可以通過他們自己顏色的偏好來定制這個(gè)推薦系統(tǒng)。

圖7：通過掃描條形碼用顏色來標(biāo)記你喜歡的書和不喜歡的書

圖8：系統(tǒng)會(huì)根據(jù)用戶標(biāo)記的顏色來推測喜歡與否

未來圖景：

基于這樣的框架下，我們清晰的明白還有更多的需要去探索與實(shí)現(xiàn)。例如，我們可以通過AR將評論進(jìn)行覆蓋去看到其他人的想法。或者說使用谷歌的cardboard，通過VR使文字描寫探索的虛擬世界更加逼真。將集成傳感器放置在可穿戴的設(shè)備上去捕捉使用者的表情和行為去解鎖不同的AR內(nèi)容。

結(jié)論：

在本文中，我們提出了一個(gè)技術(shù)上的框架，將現(xiàn)實(shí)與智能結(jié)合，通過創(chuàng)造和帶來閱讀記憶來增強(qiáng)使用者的閱讀體驗(yàn)。AR是用來解鎖信息并產(chǎn)生記憶，AI則是用來將環(huán)境與記憶相結(jié)合。概念模型的驗(yàn)證也成功的證明了這個(gè)想法。一些使用場景被制作成程序。

圖9：將arduino和燈嵌入可穿戴的設(shè)備中玩轉(zhuǎn)記憶

[1] G.Margetis， X.Zabulis， P.Koutlemanis， M.Antona，C.Stephanidis.Augmented interaction with physicalbooks in an Ambient Intelligence learningenvironment.Springer Science+Business Media， LLC.2012.

[2] Grasset R， Duenser A， Seichter H， Billinghurst M（2007）The mixed reality book： a new multimedia reading experience.CHI'07 extended abstracts on Human factors in computing systems， pp.1953–1958.

[3] Peter M， et al.Retargeting Technical Documentation to Augmented Reality.CHI 2015.

[4]Adams FM， Osgood CE.A cross-cultural study of the affective meaning of color.J Cross Cult Psychol.1973;4（2）：135–156.

[5]Wichmann FA， Sharpe LT， Gegenfurtner KR.The contributions of color to recognition memory for natural scenes.J Exp Psychol Learn.2002; 28（3）：509–520.

[6]Cernin P， Keller B， Stoner J.Color vision in Alzhermer’s patients： Can we improve object recognition with color cues? Aging Neuropsychol C.2003; 10（4）： 255–267.