いぬおさんのおもしろ数学実験室

おいしい紅茶でも飲みながら数学、物理、工学、プログラミング、そして読書を楽しみましょう

バッチ正規化の逆伝播の式を導く

バッチ正規化の話です。前回書いたとおり、画像認識のネットワークでデータを処理するとき、「各層で、特定のいくつかのユニットだけが値が大きくなる」という現象が起こります(「アクティべーションの分布が偏る」)。出力層でも「2」ばかりが出力されたり…

書籍『ゼロから作るDeep Learning』紹介

まだこのブログで紹介していなかった素晴らしい本です。『ゼロから作るDeep Learning』です。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者:斎藤 康毅 オライリージャパン Amazon 何回か話題にしている数字認識の実験のセッ…

画像認識でトラブった話。出力層のユニットの値があまり変化しない

(Pythonのライブラリなどを一切使わない)画像認識の実験の中間報告です。 www.omoshiro-suugaku.com CIFAR-10を使って画像認識の実験をしていましたが、途中までは快調だったんですがつまずきました。いろいろがんばって光明が見えたので報告です。1人で書…

映画『ハケンアニメ!』『前田建設ファンタジー営業部』紹介

アニメ業界に転職して新人監督となった斎藤瞳(吉岡里帆)が天才監督、王子千晴(中村倫也)と覇権を争います。だから『ハケンアニメ!』です。 ハケンアニメ! [DVD] 吉岡里帆 Amazon いやー、面白かったです。アニメ製作に関わる人たちの情熱が描かれてお…

雑談。CIFAR-10で画像認識の中間報告、C#で出したバグ

しばらくぶりの更新です。画像のデータセット、CIFAR-10を使って画像認識の実験(の準備)中です。 www.omoshiro-suugaku.com 前から凄く興味があって、とにかくやってみたかったのです。学校も冬休みに入り、時間もかなり自由になったので進んでいます。何…

生徒の質問。対数の小数第1位を求める方法

生徒の質問です。 の小数第一位を求めなさい、という問題です。問題集なので解答つきですが、どうしてこういう解答を思いつけるのか分からない、というのです。見てみると確かにそんな感じ。そこで、今回の記事の方法を説明しました。 まず、 のように問題の…

生徒の質問。「対数の混ざった方程式で、真数条件に触れていない解答があるんですが……」

生徒の質問です。問題集で、次の問題の真数条件(真数>0)の扱いが違うと言うのです。 それぞれの解答は次のような感じです。 実は、教科書には という例題があり、この問題の解答では最初に真数条件 x-2 > 0 を書いています。そうすると、どうしても「なぜ…

書籍『ディジタル画像処理』紹介

重いし大きいし値段も高めなので、買うとき「うーん……、どうしよう」と考えました。 ディジタル画像処理 [改訂第二版] 公益財団法人画像情報教育振興協会(CG-ARTS協会) Amazon 索引まで含めて479ページ。読み終わってからレビュー、としていたら何年もかか…

画像認識の実験始め。CIFAR-10使います

CIFAR-10というデータセットがあります。前、MNIST(エムニスト)というデータセットを使ったことがあります。これは0から9までの数字認識の実験などのための画像のセットで、何年か前にC#でプログラムを書いて数字認識を試しました。CIFAR-10は飛行機、自…

ソフトマックス関数を微分する

すみません、この記事は周辺の知識がないと読みづらいと思います。機械学習、深層学習にソフトマックス関数というのが出てきます。今回はこれを微分したらどうなるか、という話です。ソフトマックス関数は次の通り。 ネットワークの出力層でユニットの値が …

書籍『深層学習』紹介、雑談

今、これを勉強しています。 深層学習 (機械学習プロフェッショナルシリーズ) 作者:岡谷 貴之 講談社サイエンティフィク Amazon 第2版もありますが、ぼくが読んでいるのは第1版です。前、数字認識のプログラムを書いたとき大変参考になりました。解説は丁…

書籍『ディープラーニングがわかる数学入門』紹介

ここのところ、機械学習の勉強をしています。ニューラルネットワーク、ディープラーニングも出てきます。これについては前、調べたことがあって、そのとき自分で数字認識まで実験しています。 www.omoshiro-suugaku.com www.omoshiro-suugaku.com 初めてだっ…

生徒の質問。2次関数の係数を決める問題

生徒から質問され、一瞬「あれ?」と思った問題です。 次の2次関数の最大値が6、最小値が3となるよう、a、bを定めてください。ただしa>0とします。 図は上のような感じになるはずですから、3a+b=6、-a+b=3 を連立してa=3/4が出ます。これは…

和集合の要素の個数の求め方

和集合の要素の個数を求めます。高校の数学Aの教科書では次のような説明が。 集合Xの要素の個数をn(X)で表すものとしましょう。このとき、 n(X∪Y)=n(X)+n(Y)-n(X∩Y) ……① です。各部分の要素数をa,b,cとおくと n(X∪Y)=a + b + c = …

書籍『棋士とAIはどう戦ってきたか~人間vs.人工知能の激闘の歴史』紹介

新学期が始まりました。皆様、いかがお過ごしでしょうか。 2017年の本で、買って読まずにそのままだったのを通勤電車で読み始め、2日で読み終わりました。大変面白かったです。 棋士とAIはどう戦ってきたか~人間vs.人工知能の激闘の歴史 (新書y) 作者:松本 …

マジック「B'Wave」紹介

部屋を大掃除しました。そうしたら、出るわ出るわ、過去に購入したマジックグッズが数知れず。トランプも3ダースくらい出てきました。タイトルのB'Waveも見つかりました。ネットのマジックショップで1000円台だったと思います。パケットトリック(何枚かのカ…

書籍紹介『[改訂新版]ITエンジニアのための機械学習理論入門』

パターン認識の勉強を始めて、関係する「機械学習」について「そういえばこの辺、ちゃんと勉強したことなかったな……」と思い当たり、とりあえず何か読んでおこうか、と選んだ本です。 [改訂新版]ITエンジニアのための機械学習理論入門 作者:中井 悦司 技術評…

パターン認識の本、読み始め!

『わかりやすいパターン認識 第2版』について書きました。 www.omoshiro-suugaku.com 現時点で 第1章 パターン認識とは第2章 学習と識別関数第3章 誤差評価に基づく学習 までしか読んでいません。第4章からは統計が入ってきて、難しそうに見えたのでいったん…

訂正版 球の体積を微分すると表面積に、円の面積を微分する円周になるのはなぜか?

ブログの内容に関する問い合わせをいただきました。次の記事に誤りがあるとのことでした。 www.omoshiro-suugaku.com 見てみると、面積を求める式として体積を求める式を書いているなど間違いが。ご指摘、ありがとうございます。次の通り訂正します。 ---…

良問、よい問題とは何か

入試問題の分析などで「これはよい問題」などと評されていることがあります。共通テストの自転車の問題でも「よい問題」とコメントしているのを見たことがあります。この自転車の問題については前、ブログで記事にしています。 www.omoshiro-suugaku.com ぼ…

西暦元年1月1日は何曜日だったのか

もう30年以上前のこと。週刊新潮か文春に面白い記事がありました。多分先輩の先生にもらったコピーだったかも知れません。自民党のある議員が富士通のオアシス30AXというワープロについているカレンダー機能で西暦元年の1月1日の曜日を調べたのだそう。若い…

スマホのカメラの「焦点距離」。誰か教えて……

スマホに付いているカメラの話です。多分「オートフォーカス」というやつですよね? つまり、ピントが合っているとかいないとか気にしなくてもシャッターを押すだけで写真が撮れます。それとは別に、被写体が映っているとき、画面をタップするとそこにピタリ…

勉強のための本を選ぶときの決め手

よさそうな本だけれど、買おうか買うまいか、それとも古本にしちゃおうか、借りて済まそうか……。迷うことがあります。あるいは近い内容の本が2冊あって、どちらにしたらよいか決めかねているとか。 ぼくはまず目次をザッと見て前書き、後書きを読みます。勉…

これでいいのか、教員不足対策

教員不足が深刻だそう。 news.yahoo.co.jp news.yahoo.co.jp ↑ 考えているのかも知れませんが、これでは根本的な解決になっていません。なぜ教員不足なのか、分かっていると思うんだけど……。 www.omoshiro-suugaku.com 大変すぎるからみんな敬遠してるんだよ…

基本行列Eのランクを調べる

ここのところ、「2枚の写真から立体を復元する」というテーマで勉強しています。前、それなりに時間をかけてやっており、そのとき書いた記事も結構あります。 www.omoshiro-suugaku.com 今回、もう少しきちんと勉強して知識を整理しておこうと思いました。 …

ブログ開設後3年。訪問者数の多い記事など

読者の皆様、ありがとうございます。いろいろ書いてきましたが、もう3年。古い記事を見ると、なかなか面白いのもある! 一方で主張がはっきりしていなかったり「これ、間違えてる可能性があるかも……」(スミマセン)とか、まずそうなのもあったりします。 特…

DVD『ハインシュタイン・シャッフル』紹介

カードマジックのテクニックの中にフォールス・シャッフルというのがあります。トランプひと組を切ったように見せかけるものです。きちんとしたフォールス・シャッフルを使えるようになれば、まるっきりの初心者向けマジックも1級の演目になります。例えば、…

「面白い授業をしろ!」って言うけれど……

校長はそれっぽいことをよく言っていました。授業を受ける側もそう思っていることでしょう。つい最近も某大学の騒ぎでそんな話があったなあ……。しかしそもそも「面白い授業」って何でしょうか。いや、定義を聞こうというのではありません。……と言うか、定義…

生徒は教員の計算ミスに気づくが自分の試験で気づかないのはなぜか

授業で結構計算ミスします。授業前にはノートを作って要所でそれを見ながら板書するのですが、丸写しするわけではありません。書いた式などを見ながらその場で計算して続きを書くことも多いのです。学生時代からもともと計算ミスは多い方なので、入試などで…

マチンの公式に似た自分の公式を導く!

以前、こんな記事を載せました。 www.omoshiro-suugaku.com 最後の方で「(マチンの公式のような、)自分の公式を導ける!」と書きました。試してみましょう。次がマチンの公式です。円周率をパソコンで計算するのに使われたりします。 このマチンの公式の導…