鋼琴彈出動畫 中山大發表音樂作畫

中央社

(中央社記者程啟峰高雄11日電)「彈鋼琴竟可彈出一棵樹」,中山大學今天發表音樂作畫互動科技,將樂器的聲音偵測參數轉換為螢幕動畫,現場隨著鋼琴演奏,螢幕同步慢慢長出一棵樹,令人嘖嘖稱奇。

中山大學下午發布新聞稿指出,這項「音樂作畫」為國內數位科技與互動藝術跨界一大創舉,由中山大學音樂學系教授應廣儀及機械與機電工程學系教授程啟正攜手研發,樂曲演奏時同步呈現動畫,讓音樂與畫作合而為一,未來可應用於互動遊戲、醫療復健與藝術治療等領域。

校方表示,這次由音樂團隊負責樂曲的創作與演出,科技團隊則主導音樂元素的採集、偵測與互動程式設計,每個蒐集到的聲音參數就像一枝畫筆,代表不同的元素在畫布上構圖,隨著音樂進入不同橋段而呈現不同的視覺效果,兼具互動藝術的內涵及趣味。

「這是非常創新的嘗試」,應廣儀說,目前許多聲音與影像的結合是將現成的音樂用後製方式搭配影像播放,並非現場的及時影像;即便有當下及時的視覺效果,也非常抽象,無法具體呈現敘述性情節。

程啟正說,研究團隊先作曲、構思故事內容,接著用電腦畫出500張圖,其中31張圖需透過一個小節的音串觸發,靠著「快速傅立葉轉換」(Fast FourierTransform,簡稱FFT)辨識音串,鋼琴只要彈到某些段落旋律,樹長出來、打雷、雲朵飄等這些動畫就被啟動。

面對中山大學跨域團隊投入半年的成果,團隊中中山大學機電系大四學生徐浩崴對錄音工程很有興趣,還在校外自組搖滾樂團。他因修習程啟正的「機電實作專題研討」得知這項跨域合作,自告奮勇加入。

徐浩崴表示,「音樂作畫」最困難的部分就是錄音品質,由於每台鋼琴的琴音不同,加上收音時麥克風的高度、鋼琴擺放的位置,只要稍微不一樣,電腦接收到的音質數據就不同,「有時演奏者也會彈錯一兩個音」,這些微小誤差都會成為啟動動畫的障礙。1060911

接下來要閱讀的內容