ひつじTips

技術系いろいろつまみ食います。

東京大学制作展2018(iiiEx)行ってきた

最終日の終了2時間前に滑り込みギリギリで,東京大学制作展2018「"Dest-logy" REBUILD」に行ってきました!

 f:id:mu-777:20181125165940p:plain

www.iiiexhibition.com

クオリティの高さもさることながら,きちんと体験を通じてのメッセージを規定しているものが多くて,まさにアートという感じのものが多い印象でした.

僕もアートなことしたいなぁと刺激をもらった展示でした!

下にいくつかピックアップして感想を書いておきます.
(全体的に暗かったから写真がツラい...)

 

 自律する影

f:id:mu-777:20181125181502p:plain

個人的には,正直これがダントツで技術的・アート的どちらの観点でも面白かったです!
(今公式ページ見たら,作者が苗村研+稲見・檜山研+学部生で,協力が廣瀬・谷川・鳴海研...東大HCIオールスターやんけ...)

内容は,公式ページの解説通り

あなたの影があなたの意志とは無関係に動き出す作品です。

のそのまんまです.下の動画を見ればなるほどという感じかと.

影が動くのがまず面白いですよね,VR系ではよく研究対象になったりする身体所有感(self ownership)が急に奪われる体験です.

「影」という常に物理法則に則って生成されているものも,自己の身体としての感覚があるのだなぁというのをぐっと感じます.
ファーストインプレッションは妙に気持ち悪くて「ちょちょちょ,待て待て」という感じ笑
でちゃんとその後「影が帰ってきた」とも思うんですよね

実際に自分で体験しないとわからない類のやつなのでホント滑り込みで体験できてよかった...!

f:id:mu-777:20181125173442p:plain
当たり前のように自分と同じ動きをする影

ががが,その前にまず,最初に自分の影と思い込ませるのが技術的にはホントにすごいと思います...!

たぶん最初にこの影(を模したプロジェクション)を不思議に思う人ってあんまりいないんじゃないかなぁ.こういうユーザに完全に自然に思い込ませられる技術ってホントに好きです...

作者でもないのに勝手に簡単に技術解説すると,下のような感じと聞きました.

  1. スクリーンの裏から赤外光(強)を焚き,ユーザの裏からIRカメラで撮影
  2. 最初のユーザの動きどおりに影を動かす場合は,IRカメラの画像をそのままリアプロで提示
  3. その裏で,IRカメラ画像をOpenPoseにかけてボーンを推定
    (このときにユーザ側の赤外光(弱)があることでグレースケール画像となり,OpenPoseの精度が上がった(と言ってた気がする...))
  4. ボーン推定が終わったら,IRカメラ画像から輪郭抽出して,各輪郭点とボーンを紐付ける
    (ここだけは完全に自分の予想です...詳しく聞いておけばよかった...)
  5. ボーンを動かして,ユーザとは異なる動きをボーンにさせる

f:id:mu-777:20181125201043p:plain

作者の学生さんと話をしていて,「最初は,IRカメラとしてWebCam+赤外フィルタでやったけどFPSが全くでなかったので,MoCapのカメラをIRカメラとして使った」とのことでした.
まぁそうだろうな~という感じ.きっとそのままWebCamの30fpsな撮像だと,遅すぎてまったく自分の影であるように思えないと思います.
ここでMoCapカメラを使う辺りがマジで賢いですね...(もしかしたら作者自身のアイデアではないかもですが,それでもすごい)

ただアリモノ技術をつないだだけでないところもすごいし,物理現象を(体験者にホンモノと思わせる程度に)リアルタイムで再現するってホントにすごいと思います... マジすげぇ...(語彙力)

二重人殻

f:id:mu-777:20181125185345p:plain
VR空間での大量発生した僕

こちらはよくやったなぁという作品でした.

正直,ネタ的にはまぁみんな思い描く内容で,めちゃくちゃコンセプチュアルだとは思いませんでしたが(それでも十分アート性あると思いますよ),
よく展示会で回せるレベルに仕上げたなぁとというのが率直な感想です.ホントにすごい.普通こんなこと考えはしてもやらねーよ(褒め言葉)

内容は公式ページより抜粋して,

来場者の姿を会場でスキャンし、バーチャル空間で「自分」とのインタラクションを通じて自分を見つめ直す体験をします。

というものでした.

スキャンは「顔だけ(3分コース)」と「全身(40分コース)」があって,

  • 「顔だけ」は,iPhoneのインカメラ(+デプス)を使った一般的なアプリを使用したものでのメッシュ作成
  • 「全身」は,Occipital社のiPad外付けToF(だったっけ?)の「Structure Sensor」でのメッシュ作成+ AdobeMixamoを用いたリギング

と言っていたと思います.

「その場でスキャン」→「メッシュをその場でUnityに取り込み」→「ViveProでのVR体験」までの技術をただつなぐだけであれば,廣瀬・谷川・鳴海研の学生さんであれば,めちゃくちゃ難しいことはないとは思います(それでもすごいと思いますよ!!)

が,それを展示会で効率的に回すためのフロー構築はなかなか大変だったのではないかと邪推します.しかも最後にスクショまでくれるフローまでちゃんと作ってるあたりが,よくここまでやったなぁと. (わかんないけどね,思ってるより簡単なのかもだけど)

まぁこれもホントに滑り込みで体験できてよかったです.自分の直前でviveトラッカーの充電切れで一時中断したときは焦りましたがw
想像以上に大量発生した僕を眺めるのは気持ち悪い感じでしたね.こういう系はマジで体験しないと...

f:id:mu-777:20181125192258p:plain
肌の色が顔と首で違う・首が妙にすくんでる・手の向きがおかしい僕

顔だけスキャンコースだったので,他の人の体のスキャンデータに自分の顔がついてて,その肌の色の変わり目や首の位置に違和感があったり,viveトラッカーのキャリブが適当(?)で手の角度がおかしかったり,自分のアバターが暴力を振るわれる/振るうシーンで完全に位置ずれしていたりと,まぁ細かい話はありましたが笑

そんなのはまぁこの作品のメッセージにとっては些末なハナシ,とも割り切れますが,体験にじわりと効いてくるので難しいところですね...
(とはいえこの辺解決しろと言われても簡単にはできませんけどね...)

でも「ちゃんと普通に」体験できるレベルに持っていってるあたり,ホントにすごいと思います...!
僕もちゃんと普通に面白いものを作れるようになりたい...

モーツァルトのゆりかご

f:id:mu-777:20181125194955p:plain

こちらは,動きと音が連動する作品.やはりマルチにモーダルがシンクロすると気持ちよく感じますね.
てか今公式ページを見たら,作者さん山中研の方でした.納得です.

同じく公式ページの作品解説から

日常では意識されづらい動きと音がシンクロする美しさと、あなたのアクションによって音が広がっていく楽しさを感じてもらいたい。

動画を見ないと分かりづらいので,動画も.

技術的には,静止時の各球の真下にセンサ(フォトリフレクタかな?)があって球の有り無しを判別でき,
ユーザが球を持ち上げてセンサ上に球が無くなってから,ユーザが手を離してまたセンサ上に球が返ってきたら音を鳴らす,
というような仕組みだったと思います.

この振り子が左右対称に動くので,同じ音が2音連続する曲があっているということで選曲は「きらきら星」でした.(逆に他に2音続きばかりの曲はあるのか...)
確かに球の動きと,球がぶつかるときのカチカチというリズムと,「きらきら星」の音のシンクロは気持ちいいです.

球の光は今のところランダムでしたが,光までシンクロしたらもっと気持ちいいんだろうなぁと.
一方でもしかしたら光までそろってしまうと,なんだか理路整然としすぎて違和感生まれたりしないかな,と勝手に妄想してます笑
実際に光までそろったところを見てみたい!

個人的には,球の動きが不規則になっていったときの音の崩れっぷりも,心がぞわぞわする感じで地味に好きです.

生の装い

f:id:mu-777:20181125203235p:plain

こちらの作品は「無機物に生命を感じさせる」というコンセプトな作品でした.

公式ページから抜粋すると,

この作品では、ヒトとモノの関係を壊し、モノに「生」が宿る世界を描く。

とのこと.

こちらも動画を見ないと全然わからないですね.

技術的には,砂鉄の裏の静電容量方式のセンサでユーザが手をかざしたり触れたりするのを検知し, 裏に仕込んだ電磁石(5x12のアレイ,と言っていたような..)を動かして,砂鉄を動かしている
ということでした.

最初に他の人が触っているのを外から見ていると,実は「砂鉄に生を感じる」というよりは「何かがいる」「気配を感じる」というように感じました.
ファーストインプレッションは「攻殻機動隊」の光学迷彩や「亜人」の黒い幽霊(IBM)の<見えないけど気配は感じる>のようなシーン笑
砂鉄上に走る足跡とかを出せばもっとぞわぞわするような体験になるのかなぁと思ったりします.

自分でインタラクションして砂鉄を動かすと,またちょっと違って「砂鉄の中に何かが蠢いている」ように感じて面白かったです.

ちょっと作者の狙った意図とは違う感じ方をしてしまいましたが...まぁアートは感じ方ということで...

--

あと,別作品ですが,「渦、それはパーティー」という作品も 「生の装い」と同じようなコンセプトでやれば,それはそれで面白かったんじゃないかなぁと思ったり.

手の動きに応じて渦やその他の水の動きが自律的に生成される,というような.水だと立体的な表現ができるのでまたちょっと違った感じになったりしないかなぁと.
(まぁさすがにそんなに水を自在に動かすの難しいか...)

全体を通じて

最終日の終了2時間前にもかかわらず最後まで頑張って動かそうとしていたり,まず熱意がすごかったです!
僕ならまじで最後の方とか力尽きてそう笑
「若者の元気をもらう~」みたいなおじさんにはなりたくないなぁという感じですが,気持ちがわかりました笑

てかまじでふつーに東大生半端ねぇっす...
まぁ正直アリモノつないだ系も全然あったりしましたが,それでもホント全体的に技術面もアート面もクオリティ高ぇっす.
僕が今の状態で東大入っても彼ら彼女らに全然負け負けっすわ...つらみ...

まぁでも基本的に劣等感ドリブンで動くタイプなので,めっちゃ劣等感与えてくれてありがとう!という気持ちです!

熱意とやる気もらった気がするのでがんばります!!!!!