数字出版技术场域变迁下儿童绘本的交互性升级探索

2023-05-23 10:47谢雅婷陈秋伟
出版广角 2023年6期
关键词:模态绘本数字

谢雅婷?陈秋伟

【摘要】数字出版技术场域的变迁与新兴科技的发展紧密关联,当下,AI、VR、云计算、区块链等新技术正不断推动数字出版的创新与发展。持续涌现的数字出版新技术使得儿童绘本的交互形式实现了从线性式、多媒体化向立体式、沉浸式与多模态化的转变。未来,随着数字出版技术的进一步更新与迭代,儿童绘本的交互性将全面升级——在VR、AI、数字孪生、数据挖掘、云存储等数智科技构建的数字出版新技术场域中,儿童绘本或将实现从图文、声画交互到多模态交互,从线性叙事弱交互到非线性叙事强交互,从图形用戶界面交互到三维用户界面交互,从实物中介触发交互到自然交互,从被动交互到前馈自适应主动交互,进而全面优化儿童绘本的叙事逻辑和阅读体验。

【关  键  词】数字出版;技术场域;儿童绘本;交互设计

【作者单位】谢雅婷,湖南师范大学;陈秋伟,湖南美术出版社。

【中图分类号】 G230.7【文献标识码】A【DOI】10.16491/j.cnki.cn45-1216/g2.2023.06.011

随着新兴技术的发展,读者的阅读行为正在经历一场深刻的变革:由纸质媒介阅读到新媒体阅读;由平面阅读到立体阅读;由线性阅读到多维交互阅读等。出生于2010年之后的“α世代”(阿尔法世代),他们中的大多数人从小在数字技术各种视效、声效渲染的影响下,已经具备了良好的数字素养,对数字阅读的沉浸感、交互性需求更高。儿童绘本具有极强的故事性和趣味性,其作为少年儿童接触外部世界的重要窗口,是开展早期知识传播和思想教育的关键媒介。当前,传统单一视觉感知的纸质媒介受到了“融合视觉、听觉、触觉等多模态感知”的新媒介的全面冲击;在儿童绘本的模式从传统向数字化转变的过程中,以VR、AI、数字孪生、数据挖掘、云存储为代表的新技术为儿童绘本的交互设计提供了更多可能性[1]。在读者需求与技术力量的双重驱动下,儿童绘本的交互性研究逐渐成为行业研究的热点之一,本文从数字出版技术场域变迁的视角出发,对儿童绘本的交互性发展脉络、儿童绘本的交互性升级进行描述与展望,以期为儿童绘本交互设计研究与实践提供参考。

一、数字出版技术场域的变迁

有研究认为,数字出版大致经历了3个发展阶段[2],即媒介平移阶段(1.0)、跨媒介发展阶段(2.0)、多模态媒介交互演绎阶段(3.0)。1.0阶段主要是媒介平移与符号再现;2.0阶段开始转向跨媒体、富媒体化发展;3.0的特点是多模态媒介交互演绎,是正在发生的趋向。如表1所示,数字出版的变迁与科学技术的发展紧密关联,技术的变迁从内容生产、交互界面和系统平台等方面推动数字出版生态不断演进。

1.数字出版过程中内容生产的技术变迁

最初的数字出版仅仅是一种基于数字扫描技术、HTML文本技术的内容迁移与数字化传播。比如,通过数码相机、扫描仪等设备对纸质文本内容进行数字化处理,并将数字化内容存入计算机网络数据库;利用HTML文本技术将图文进行数字化编辑、排版处理等。随着信息处理技术、编码与解码、XBox360等技术的发展,数字出版开始向跨媒体、富媒体化发展,出现了音视频、动画、游戏等多媒体内容。多媒体内容的嵌入,不仅提升了数字出版内容生产的质量,使出版物具备丰富的可感知特性,还催生了海量的数字出版物。数字出版内容生产过程中技术边界的不断拓展,使得数字出版越来越关注内容的感知体验,当数字出版进入3.0阶段,人工智能、物理仿真、3D建模等技术力量,进一步赋予数字出版内容更多的定制化与个性化方案,通过对真实世界的模拟仿真,给读者带来更加直观的内容体验。

2.数字出版过程中交互设计的技术变迁

交互设计是数字出版的核心环节,其关系到读者的阅读体验。尽管最初电子书阅读的交互过程被局限在单一的视觉感知方面,但是随着触屏、手势与语音识别、新媒体等技术的发展,数字出版的交互通道飞速扩展。如通过触屏技术,读者可以手指操控屏幕上的内容,操作方式更加人性化;借助新媒体技术,读者能够根据提示自主选择符合自身需求的内容,并且阅读、笔记、分享等功能均可以通过同一界面完成,相关操作还能够形成行为记录——出版机构能够从中获得读者的反馈信息,从而形成管理闭环;依托移动互联网、社交媒体构建的进行时式传播机制,使得读者不再是孤立的,而是可以通过网络社交平台进行评价与交流的能动主体。不仅如此,AI、VR、AR、数字孪生、脑机接口、生物数据采集等技术让读者和内容在虚拟与现实之间的具身沉浸式交互成为可能,整体来看,促进多模态交互是数字出版交互性升级的重要努力方向之一。

3.数字出版过程中底层支撑的技术变迁

从技术研发到内容生产再到资源整合,整个数字出版产业链上每个环节都需要科技力量的支持。数字编码、大数据、互联网、AI、区块链、新媒体、云存储、5G等技术构成了数字出版场域变迁的基本技术框架。其一,在数字编码和大数据技术的支撑下,内容生产原有的边界被打破,过去因形式和空间限制难以传播的内容,通过数字编码和大数据存储技术,实现了高效生产与传播,增强了内容的可触达性。其二,数字出版内容的供给、吸收与转化离不开云计算和数据挖掘技术的支持。依托云计算和数据挖掘技术,读者可以通过终端设备随时随地获取海量数字内容,这显著提升了数字出版机构的内容服务能力。其三,5G、新媒体、大数据技术的发展对数字出版产生了重大影响。要想满足大量读者实时在线获取内容、进行内容交流和内容生产的需求,应先完善5G网络环境、云存储、新媒体和物联网技术。其四,区块链技术与NFT(Non Fungible Token,非同质化代币)技术促进了数字出版确权和交易。区块链技术使得数字作品的交易、使用和管理更加安全、透明和可靠;NFT技术通过改变数字出版的交易方式和流通途径,降低了数字出版的交易成本,提高了数字出版的流通效率。

二、数字出版技术加持下儿童绘本的交互性发展脉络

1.第一阶段:以视、听为主的交互感知

儿童绘本交互的本质是以图文为媒介的信息传播与接受过程,其基本模式是图文创作者与儿童读者进行情感沟通。随着计算机技术的快速发展,儿童绘本拥有了高效灵活的电子化载体:电子化的儿童绘本以HTML文本、FLASH动画等数字技术为基础,以文本形式呈现。这种以电子化形式呈现的儿童绘本(Electronic Story Book)能够以较小的物理硬件承载丰富的视听信息内容,因而大大推动了儿童绘本的传播创新。但是,早期的电子化儿童绘本大多是通过复刻纸质读本生成,绘本的实际承载物以光盘为主,读者往往需要借助计算机辅助工具來读取光盘的图文、声画,如天津人民艺术出版社的《我想知道为什么》、哈尔滨出版社的《百家姓》、北京少年儿童出版社的《中国孩子最想畅游的世界100自然奇观》等。尽管这些电子化儿童绘本的信息生产和传播不依赖纸质媒介,实现了将图片、文字、动画、视频等多种元素融合,但由于其交互形式仍以视、听为主,互动性弱,且感知体验较为单一,缺乏趣味性,因此这种交互性并未对儿童阅读产生明显影响。

2.第二阶段:富媒体化互动感知

智能终端和移动互联网技术快速发展,进一步增强了儿童绘本传播的便利性,也催生了更为深入的技术应用变革。随着移动智能终端的广泛普及,具有一定技术实力的出版机构纷纷涉足数字化儿童绘本领域,其不仅在绘本的视、听等方面发力,提升儿童绘本的阅读交互性,还积极探索儿童绘本的传播,不断优化富媒体化互动感知。比如,Apple Tree Books公司主打有声阅读品牌,其打造的“麦思麦琪”“宝贝爱看书”等单本童书APP将各类交互性操作和功能植入用户界面,不仅将绘本中的文字、图画转换为声音、动画等多媒体形式,还让儿童读者通过视觉、听觉感知丰富的绘本内容信息。儿童读者在阅读绘本之后,还能够录制阅读感悟音频,并通过社交网络进行分享[3]。京东上线的“哪吒看书”平台充分发挥移动互联网的社交优势,将配音、视听、游戏、插画、娱乐等内容融入阅读过程,为儿童绘本阅读增添了诸多富媒体化的交互性体验[4]。

3.第三阶段:沉浸式交互体验

近年来,数字化儿童绘本作为市场蓝海不断被资本发现,越来越多的市场主体进军这一领域,并且将前沿技术应用到产品开发中,数字化儿童绘本产品的更新迭代持续提速,并呈现交互性逐步增强的趋势。特别是立体交互技术的出现,进一步推动了儿童绘本的跨越式发展,读者在绘本阅读过程中可通过触摸、观察、书写、转动、具身体验等方式来感受绘本的内容。立体交互技术包括触摸互动、虚拟现实互动和体感互动等多种形式,其通过虚拟现实环境,给儿童读者带来身临其境的真实体验,即沉浸式交互体验。儿童在阅读这类绘本的过程中,眼、耳、鼻、舌等多种感官均参与绘本内容的获取过程,如通过3D眼镜来感受立体绘本,并与绘本内容互动;通过触摸绘本文字来感受文字的韵律和节奏;通过旋转绘本来感受文字和图形之间的关系等。在立体交互技术的影响下,儿童绘本的阅读方式从传统的“读”向“玩”转变,由“单向接受”向“双向互动”转变,阅读过程变得更具沉浸感和充满趣味性。如2020年,湖南少年儿童出版社出版的跨媒体AR恐龙科普故事系列绘本《恐龙生存大冒险》,借助VUE搭建场景、AR增强现实和3D游戏建模方式制图,再现了恐龙世界场景——孩子们通过手机扫码,就可以看到栩栩如生的立体恐龙,比看动画片还有趣[5]。目前,儿童绘本的立体交互技术多应用于互动游戏和沉浸式体验场景中,而随着技术赋能的不断增强,其应用范围将扩展至更广泛的领域。

三、数字出版技术场域迭代下儿童绘本交互性升级的图景描绘

1.从图文、声画交互到多模态交互

在多媒体技术的带动下,图文、声画等已成为数字出版的基本表现形式,呈现了传统出版所不具备的多维效果。但是,这种借助多媒体的内容呈现仍然以单向的内容输出为主,读者与内容之间的交互不够充分。未来,在智能传感、生物识别、虚拟现实等技术的创新应用中,涵盖多元指令、虚实共生的视、听、触多模态交互将进一步优化儿童绘本读者的阅读体验。多模态交互是指计算机利用多通道响应输入,融合人的五感,进而充分仿真人与场景、人与人交互的一种方式。

首先,数字出版产品借助智能传感技术将促进儿童绘本图像、音频、文字和读者体感的同步互动,满足读者视觉、听觉、触觉等多感官的交互体验。以美国Moonbot工作室推出的《神奇飞书》儿童绘本作品为例,该绘本除了在表现形式上运用了视听、动画等手法,还在交互设计上配置了多元的动作交互功能,让儿童读者通过点击、滑动、敲击、涂抹等动作实现对绘本内容的操控,帮助他们在交互体验中感知故事内容,增强他们的参与感和获得感[6]。

其次,数字出版产品通过虚拟现实技术,借助VR设备、特定的绘本馆空间,可引领读者进入3D虚拟世界,让读者获得更具沉浸感的阅读体验。以捷克Bobaka游戏工作室研发的数字绘本程序《小绿帽》为例,该程序充分利用数字技术、VR技术构造虚拟场景,通过音效、动效、重力反馈、奖励等模块引导读者参与,实现了极具趣味性、场景化的交互效果,让读者产生了较深的情感触动[7]。目前,国内具备多模态交互感知功能的儿童绘本并不多见,但这种交互方式在国内展览、VR体验馆中的应用已比较常见。比如,2021年5—8月中南出版传媒集团、湖南美术出版社主办,美仑美术馆承办“梵高来了!艺术互动展”,该展览基于VR、AR动作识别等技术打造的360度视觉、听觉、触觉以及味觉体验,可以让观众完全沉浸于梵高的艺术世界之中——观众走进展览现场,便可以与梵高名作《星空》《花田》《鸢尾花》等作品进行多模态互动。将这种视、听、触融合的多模态交互方式引入儿童绘本设计之中,不仅能为儿童读者提供更丰富的阅读体验,还能激发他们对绘本内容的兴趣与求知欲。

2.从线性叙事弱交互到非线性叙事强交互

儿童对故事具有天然的敏感性,故事的叙事方式对儿童情感和意识有较大影响。在最初的数字化儿童绘本作品中,限于资源、结构、技术等因素影响,叙事模式普遍以线性为主,即按照故事发展的时间线展开一系列情节。由于这种叙事模式在交互层面的设计不够丰富,儿童读者在阅读过程中感受到的交互体验较弱。随着多模态媒介技术不断发展,放射结构、交错结构等类型的非线性叙事将进一步拓展儿童读者参与叙事过程的路径,促使儿童绘本从线性叙事弱交互向非线性叙事强交互转变。如通过相同的故事开端,引申出不同的预设故事路线,让读者能够根据自身的想法选择故事推进状态,不同的选择将导致差异化结局,从而使传统的线性叙事转变为以开端为起始点的多线型叙事结构。尤其是在儿童绘本从平面图像向3D空间立体影像转变的过程中,儿童读者甚至还能从故事的接受者转变为故事的创造者。通过对特定情节、要素的统筹分布与多模态信息融合交互,儿童读者可以与绘本创作者、故事情节、虚拟空间进行“零距离”接触和交流,并基于儿童个体的认知逻辑对故事叙事进行交错阅读,从而体验更加个性化的故事路线和结局。

3.从图形用户界面交互到三维用户界面交互

当下图形用户界面交互仍然占据主导地位,以桌面隐喻为基础的第二代用户界面范式WIMP(Window、Icon、Menu、Pointing Device)构成了数字出版的基本交互框架。但是,在虚拟现实技术不断发展的背景下,万物皆可感知,读者可以沉浸在三维立体空间之中,因此,未来的儿童绘本必将打破现有的交互形式,探索具身交互、传达交互等更高效的创新形态。

首先,在虚拟现实技术的支持下,儿童读者将具有现实空间和虚拟空间的双重身份,能够在虚拟空间中感知立体化的场景,其中不仅包括视觉、听觉、触觉,还包括与现实空间一致的嗅觉、味觉、社交情感等。儿童读者可以通过三维用户界面交互,将现实空间中的行为内容复刻到虚拟空间中,并在虚拟空间特定角色的身份基础上实现感知与传达,从而在虚拟空间中感知三维立体场景。

其次,虚拟空间和现实空间一样具有三维结构,读者在虚拟空间中的传达也可以通过语音交互、手势交互等三维形式实现。虚拟空间构建仿真情境,其三维用户界面需要充分考虑儿童的成长特征和认知能力,只有与儿童读者认知度契合的三维用户界面,才能够有效优化儿童绘本的虚拟场景交互体验。可以预见,随着三维用户界面的应用,儿童绘本的阅读形式将发生巨大转变——从平面阅读转向立体阅读。

4.从实物中介触发交互到自然交互

在人机交互的当前发展阶段,儿童绘本的交互往往需要借助特定的实物载体来实现,如通过按键、触屏、VR眼镜等物理介质获取内容,并通过个性化操作完成交互过程。这个交互过程对具有一定认知能力的成年人较为友好,但对于难以实现精细化触控操作的儿童读者(尤其是幼儿)来说,完整的交互可能存在困难。数字出版技术场域的迭代对于绘本媒介的颠覆,不仅改变了信息展示和显示方式,还使得数字化绘本的中介载体不再完全依赖实物。

在数字技术、虚拟现实技术深入发展的背景下,儿童读者可以使用更舒适、自然、内隐的方式与绘本交互:自然交互是一种基于人的身体语言的交互,其更贴近交互本质,使儿童阅读绘本变得更为自然、人性化。在视觉智能上,具有较强机器视觉识别能力的程序能够对读者的表情、动作等进行精准识别与研判,并自动判断读者的需求和偏好,为他们提供个性化服务。在感官智能上,现实交互过程与虚拟场景设置的结合,将赋予儿童绘本更强的拟人化能力;平台通过对读者语言、动作、表情等多维度释放的信息进行捕捉,将实现更自然、更智能的人机对话和信息互动。

5.从被动交互到前馈自适应主动交互

现有数字化儿童绘本的交互方式大多是由读者发起的以指令为主的被动交互,读者往往需要通过滑动、点击、语音等方式实现内容的切换和功能操作。未来,在人工智能、大数据等技术的支撑下,机器将拥有更强的自适应能力,能够关注读者的行为和偏好,对特定内容和环节进行智能反馈。

随着数字出版技术场域的迭代,儿童绘本产品或将可对文本内容、读者阅读行为、读者阅读场景进行智能分析,将被动的阅读交互主动化,以实现前馈自适应主动交互。前馈自适应主动交互是指某个产品、某项服务在感知到某一用户需求时,由系统自动将信息传递给产品或服务,从而进行回应。其基本逻辑是:产品或服务感知到用户需求后,由系统自动将信息传递给产品或服务,并根据产品或服务反馈至用户;当产品或服务感知到用户需求后,系统自动对产品或服务进行调整,以适应用户需求。具有前馈自适应主动交互功能的儿童绘本,能够实现智能陪读、智能引导,为儿童阅读提供全天候的智能化服务场景,可减轻亲子阅读的专业性辅导压力。

|参考文献|

[1]何思倩,覃京燕. 从VR/AR 到元宇宙:面向α世代的沉浸式兒童绘本交互设计研究[J]. 图书馆建设,2022(5):66-72.

[2]胡易容. 全媒体·大出版·元理论:新文科理念下的数字出版学科关键词[N]. 中国出版传媒商报,2022-11-29.

[3]王金团. 数字化浪潮下童书APP的发展现状,问题及对策研究[J]. 出版参考,2018(1):37-41.

[4]吴娉娉. 少儿多媒体阅读平台建设探析:以“京东哪吒看书”为例[J]. 科技传播,2019(14):1-4.

[5]《小溪流》期刊社. 恐龙生存大冒险[J]. 小溪流(少年号),2020(9):66.

[6]用动画重新定义书籍:奥斯卡获奖工作室的交互绘本[EB/OL]. (2017-05-25)[2023-02-11]. https://baijiahao.baidu.com/s?id=1568296549796434&wfr=spider&for=pc.

[7]APP电子绘本插图的交互动态化[EB/OL]. (2016-09-20)[2023-02-11]. http://iapa.cafa.edu.cn/iapa/c/?s=382890.

猜你喜欢
模态绘本数字
绘本
绘本
绘本
国内多模态教学研究回顾与展望
基于HHT和Prony算法的电力系统低频振荡模态识别
由单个模态构造对称简支梁的抗弯刚度
多模态话语模态的协同及在外语教学中的体现
数字变变变
绘本