三次元測定機を用いた直角度の測定方法

ここで聞くよりも、ご使用の三次元測定機のメーカーに問い合わせましょう。色々と相談に乗ってもらえると思いますので、基本的にはそちらを推奨します。

で、それはそれとして回答すると、要は円筒軸方向を基準として、測定点の位置がバラついた時に円の中心はどう決まるか、という事ですよね？
答えは「バラついた3点を結ぶ円が計算される」であり、要はちゃんとした測定結果にならなくなります。ご懸念の軸方向だけでなく、径方向にもバラついてしまいます。

仮に円筒度0.000・・・の理想円筒であっても、斜めに切断すれば断面は楕円になります。その楕円状の3点を元に円が計算されてしまうので、当然結果が狂います。
なので基本的に、円筒(でも円錐でも)を測定する際は、軸方向と直角に円を測定する必要があります。
ちなみにこの考え方で行くと、「正しく円筒を測定するには正しい軸方向が必要であり、正しい軸方向を把握するには正しく円筒を測定しなければならない」という矛盾が発生します。
これについては『ほぼ』どうしようもないので諦めて下さい。

ほぼ、というのは、三次元測定機の種類によっては、自動測定などによりこれを解消できる機種もあるからです。
方法は色々ですが、多いのは螺旋状に円筒表面を測定し、その測定点で成立する『円筒』を演算するパターンですね。要は『2円を結ぶ円筒』ではなく『測定点1、2、3・・・・・・のn点から成立する円筒』を計算するわけです。
こうする事で軸方向に対して直角に測定する必要がなくなり、矛盾が解消されます。

貴方がお使いの機種ではどのような操作になるか、またそもそも可能であるかは分かりません。
なので最初の繰り返しになりますが「ご使用の三次元測定機のメーカーに問い合わせましょう」となります。

なお以下は余談ですが、三次元測定機のご経験はあまりないみたいですね。
基本的に「測定結果を出す」事はどんな場合でも可能ですが、その正確性というか、妥当性は作業者自身が担保しなければならないのが三次元測定機です。
そういった意味で言うと「どのように数値が求まるのか分からない」という部分に危機感をもつその発想は大変素晴らしく、測定にとって最も重要な部分です。
是非とも、日々の業務の中でもその感覚を大事にして、忘れないようにして下さい。

>◆ご質問
あなたが質問するのですから丁寧語の「ご」を付けない方が良いでしょう。

>A点およびB点における円の中心点の距離が直角度に影響してきます。
A点とB点の位置を立体図形で提示してください。
円柱は真円で両端の直径は同じですか？
また、3次元測定器のスタイラスを当てる位置も併せて図示してください。

>円柱長手方向Lに対する
円柱の「長手方向」とは「軸方向」のことですか？

>スタイラスを当てる3点の位置がバラバラの時、A点における円の中心点の位置
円柱をどのように置いてスタイラスを何処に当てて3次元の位置を検出しますか？
位置がバラバラとは何処を基準にしてバラバラなのかを示さないと判断できません。
3次元測定ですから定盤の上へ円柱を載せて基準点からx方向の距離、y方向の距離、z方向の距離を測定して目的のA点の座標を算出するので基準になるx=0、y=0、z=0の位置からA点の位置を割り出せる3点の位置を測定すれば良いでしょう。