分解能についての考え方

Question

標記の件ですが、ある製品の形状をN=25測定して結果が79.774、75.102、76.899、74.615・・・というデジタル表示結果になりました。
計測器の分解能が0.25と記してあるのですが、なぜ結果が0.25の倍数になっていないのでしょうか？
またこの結果がなぜコンマ100分代まで表示されているのでしょうか？
分解能を上回っていると思いますが、このまま使っていいという方もいます。
この結果は丸めていいでしょうか。

そもそもの分解能の認識が違うのか教えていただけませんでしょうか？

Answer

2進数の桁落ちっぽい
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1216625577

デジタルにはよくあること
基本的にデジタルは切捨て

>>この結果は丸めていいでしょうか。

鉛筆をなめればいい(導きやすい方向へ)

結局統計的に見れば結果は一緒(誤差範囲)

Answer

> 計測器の分解能が0.25と記してある

と、

> ある製品の形状をN=25測定して結果が79.774、75.102、76.899、74.615、…という
> デジタル表示結果

から、上述の0.25は 0.25μm であり、その下述の例えば79.774は 79.774mmと推測します。
そして、測定結果の0.01mmである1/2(ハーフ)ではなく、1/4(クフォーター)ちである、分解能
が0.25μmを切り上げ＆切り捨てし、数値化している測定器であると記しているのでしょう。

小生なら、そのように読み取れます。
尚、推測なので、単位が適切でないかもしれませんが、測定値に対して、分解能の単位は
1/1000であると考えます。

以上、

信頼性の向上のために、測定精度値の例えば0.01mmである1/2(ハーフ)ではなく、
1/4(クフォーター)値を、分解能(例えば0.25μm)としている記載だと、納得できますよね。

岩こと、iwanaiは、前述の記載をiwanai(書かない)から、今一説得力がないんだよ。
そこんとこのフォーローなんだよ。（上から目線だから、言葉足らずになるんだよな）

Answer

分解能0.25の計測器とは一体何ですか?

眼で読む指しでも0.5目盛が刻まれるし、ノギスは0.01、旧式アナログノギスでも0.05、、想像が及びません。0.25ミクロンの間違いでは?

厳密解釈は違うが分解能イコール表示最低値。
アナログノギスは基準スケールが粗くとも補間する副尺を備える。更に目分量を活かせば実質分解能は上がり、デジタルはそれを中で行う。

後出しアホターが まねたー www

Answer

まず分解能が0.25という意味は
測った値が0.25以上違えば、対象物の寸法も異なるという意味です。

問題は、計測で大切なのは「精度」であって分解能ではないということ
つまり精度が判らなければ、どこの桁まで信用できるかがわかりません。

精度は通常分解能より大きい値になり
質問者さんの説明の中では精度が示されていませんから
誤差は１以上である可能性もあります。
その場合コンマ以下は寸法値は無意味で
かろうじて違う寸法という事は判る程度です。

Answer

＞計測器の分解能が0.25と記してあるのですが、
＞なぜ結果が0.25の倍数になっていないのでしょうか？
＞またこの結果がなぜコンマ100分代まで表示されているのでしょうか？

ご質問者さんに逆にお尋ねします。
今回のお問い合わせのような内容は、計測器のメーカーに問い合わせること
が適切と思いませんか？
岡目八目の外野のメンバーに期待することがあれば追記お願いします。

計測器のシステム図（特に、A/Dコンバータの前後をきちんと記載したもの）
及びデータ処理のフローチャートなどがあれば、なぜお問い合わせのような
結果となるか説明できるかもしれません。

n=25の結果すべてをアップして頂ければ、データ処理について推論を立てる
ことができるかもしれません。

＞ある製品の形状をN=25測定して結果が79.774、75.102、76.899、74.615

回答(3)さんがご指摘になっていますが、数値79.774、75.102・・・に
対応する測定量目及び単位は何でしょうか？
mm単位で表した長さ寸法とは違うと思います。

計測器の分解能についての疑問