内積の図形的意味と正射影ベクトルについて少し書きます。

上の図から、
θ≦90°のとき
a↑・b↑=|a↑||b↑|cosθ
=|a↑||b↑|(|h↑|/|b↑|)
=|a↑||h↑|
θ>90°のとき
a↑・b↑=|a↑||b↑|cosθ
=|a↑||b↑|(−|h↑|/|b↑|)
=−|a↑||h↑|
つまり、内積は2本のベクトルの長さで表せる。
上の図で、h↑を正射影ベクトルと言います。
h↑=|b↑|cosθ(a↑/|a↑|) (|b↑|cosθはh↑の長さと方向、a↑/|a↑|は単位ベクトル)
=(|a↑||b↑|cosθ/|a↑|2)a↑
={(a↑・b↑)/|a↑|2}a↑
となる。
h↑={(a↑・b↑)/|a↑|2}a↑
は覚えておくと便利。
以上の議論をふまえて、(3)を考える。

余弦定理から
|BM↑|2=12+32−2・1・3cos∠AOB
=7
∴|BM↑|=√7
BP↑={(BM↑・BA↑)/|BM↑|2}BM↑
=[{(a↑/2−b↑)・(a↑−b↑)}/7]BM↑
・
・
・
=(13/14)BM↑
∴t=13/14
式がごちゃごちゃしてるので、ノートに書いたほうがいいと思います。スキャナ買ったら手書きにします・・・