0066 「最小目盛りの10分の1」の謎

　メスシリンダーや温度計など、目盛りのついている器具で測定値を読み取るときは、「最小目盛りの10分の1までを目分量で読みとる」、ということは、中学校の理科の教科書などに掲載されています。これは、中学校や高校の教科書だけでなく、大学向けの化学実験や工学系の測定工具の使い方でも同様な指示があります。

　では、このような「ルール」の根拠はどこにあるのでしょうか。国、あるいは国際組織、そこまでいかなくても業界団体や学会など、権威のある組織による規定（たとえばJIS規格など）があるのでしょうか。

さっそく他力本願プロの力を借りるということで、東京都立図書館の調査相談（レファレンス）を利用してみました。

とメールを送ったところ、丁寧な回答をいただきました。回答メールの著作権の関係で文面のコピペはできませんが、有効数字の観点から10分の1まで読むことを説明した資料はいくつもあったものの、肝心のそれを規定した規則類は見つからなかったということです。JIS規格をはじめ、結構いろいろ調べてくださったようなのですが…。
　東京都立図書館様、ありがとうございました！(感謝)

　そうすると、「最小目盛りの10分の1までを目分量で読みとる」ということは、どこかに規定があるわけでなく、多くの関係者が実際にそれで動いていることによって事実上の標準とみなされるようになったものと考えられます。

　家庭用ビデオにおけるVHSのように、パソコンOSにおけるWindowsのように、お上が定めた権威による標準ではなく、みんなが使っているという同調圧力事実によって標準とみなされる、かっちょよく言うと「デファクトスタンダード」なわけですね。

　では、「みんながやっているから」こうなったわけだとして、「最小目盛りの10分の1までを目分量で読みとる」ことは、どの程度正確にできるのでしょうか。もちろん、例えばふつうの中学生のような初心者がいきなり1/10を読み取るのではなく、ある程度訓練したうえでということは前提としての話です。

　東京都立図書館様からの回答メールにJISC（日本工業標準調査会）のサイトからJISの本文が閲覧できることが書いてありました。

これを利用して、関係しそうな規格を見ていたら、次の規則が目に留まりました。

　そういえばたしかに0.5mm間隔の目盛りとかみないよな。あまり目盛の間隔が小さいと、目盛り自身の幅も誤差のもとになりそうだし。お湯の温度を測るために常温の温度計を入れたら、それによってお湯の温度が下がったみたいな(笑)。
　ヒトの目の分解能、ちょっと違うかもしれないけれど平たく言うと、ヒトの肉眼で見える物体の大きさは、当然個人差はありますが、だいたい0.1～0.2mmと言われています。
　とすると、1mmの目盛りと目盛りの間隔が確保されていて、人の目が0.1mmのズレをなんとか読み取ることができるとすれば、「最小目盛りの10分の1までを目分量で読みとる」ということは、結構理に適っていることと考えられます。

　ところで、中学校の実験用の電流計や電圧計は、誤差が全目盛りにおいて最大目盛りの2.5％の大きさ以下になるように作られています。たとえば、－端子は500mAにして電流計で電流をはかれば、それが465ｍAだろうが23mAだろうが、その誤差は500ｍAの2.5％の約13ｍAとなります。500ｍAの端子の場合、最小目盛り1つ分は10mAです。

　すると、目盛り1つ分以上も計器による誤差があるのに、最小目盛りの10分の1まで測る意味があるのか、という疑問が生じます。

　偶然誤差なら複数回測定してチャラにする方向にはできるかもしれませんが、器差は系統誤差のケースも多く、本気でやるとしたら、アルコール温度計のように器差を補正したうえで、最小目盛りの10分の1まで測ればいいのかなと思います。もっとも、氷水で０℃とする程度の手軽さと正確さのレベルで、１Aの電流や１Vの電圧をつくることができない以上(少なくとも私はその方法を知りません)、どうやって器差の補正をするかが謎ですが。

　ただ、逆に1mmごとに目盛りがふってあるものさしで10cm程度のものの長さを測るときに、ものさし自身による1mm以上の誤差は考えにくいのも事実です。せっかくそれなりに確度の高い測定ができるんだから0.1mm単位まで読んでも罰は当たらないはずです。

　誤差の程度(確度)によって「最小目盛りの10分の1までを目分量で読みとる」ことが厳密に考えると意味があるケースとないケースの両方があるのでしょうが、そこまで気にして区別するのは現実的に難しいので、一緒くたにやるしかありません。だから、そこまでやる意味がないリスクを気にしながら、でもできるだけ細かく読むようにする、という判断がデファクトスタンダードなのでしょう。

それより私が気になっているのは、１目盛りの値。上のばねばかりの画像のように１目盛りが0.04Nだったりすると、測定値は、その10分の１、つまり0.00４N単位で読むことになります。すると0.048Nとか0.180Nとかなるのですが、記録データだけを見た人は0.00４N刻みではなく0.001N刻みで目盛りを読んでいると誤解しかねません。１目盛りの値は0.01Nとか0.１Nとかにしてほしいものです…。そこんとこJISあたりで規定してくれないかな～(他力本願寺)。

　前ブログのコメントで、論文を紹介していただきました。
　　関口晃：“目測による設定の精度”，計測,Vol.8,No.10,pp.616-621(1958)
　大学生40名を被検者として、計算尺を使って繰り返し計算をすることで、1/10の読み取り誤差を累積させて、読み取り、および設定誤差を調べたものです。ロゲルギストエッセイのどこかで紹介されてたかと思います。とのことで、コメント主は、かなりのプロフェッショナルとお見受けしました。
　ブログやっていると、こういう方からのありがたいコメントが大変役に立ちます。ありがとうございます。

• この論文の引用文献も読みたいと思うのですが、なかなかそこまで手が回りません…
  5) 浅野徹:“拡大等間隔目盛による1/10のよみの研究”,計測,Vol.1,No.4,pp.179-181(1951).
  6) 市川誠:“計器の目盛に関する統計的研究”,計測,Vol.6,No.4,pp.166-172(1956).
  7) 浅野徹:“等間隔目盛の1/10の読みについて”,応用物理,Vol.19,No.7-8, pp.224-226(1950).

.