tさん、はじめまして。

ベクトルの問題は、参考書や指導者で解き方の説明が全然違うので、
とまどってしまう人が多いと思います。
当然、どのような解き方も正しいのだから、調べれば調べるほど、生徒さんはますます、訳がわからなくなっていきます。
大事なことは、自分にあっている解法を身につけることです。

私は、より多くの問題に対応できる汎用性の高い解法で指導していますから、
ｔさんの学校の先生の解法とは違うかもしれませんので、その点最初に申し上げておきます。

当然、絵は描いてますね。

Ａを位置ベクトルの原点とし、基本となるベクトルを
vec{b}=vec{AB}、vec{d}=vec{AD}、vec{e}=vec{AE}　とする。

|vec{b}|=|vec{d}|=|vec{e}|=α
vec{b}・vec{d}=vec{d}・vec{d}=vec{b}・vec{e}=0

★　以下、見やすさを重視するため、b、dなどは位置ベクトルを
　　ＡＰなどは　vec{AP}　を
　　bd　などは　内積　vec{b}・vec{d}　を表すことにする。
注意…実際の試験ではこのような表記をしては絶対にいけません！

(1)　h=AH=d+e
　　AB･AH=b･h=b･(d+e)=bd+be=0
(2)　c=AC=b+d
　　　g=AG=b+d+e
　　AC･AG=c･g=(b+d)･(b+d+e)
　　　　　=|b|^{2}+bd+be+db+|d|^{2}+de
　　　　　=α^{2}+α^{2}=2α^{2}
(3)　P　はＥ、Ｄの中点なので
　　p=AP=(d+e)/2
　ＱはＢ，Ｇの中点なので
　　q=AQ=(b+g)/2=(b+b+d+e)/2=(2b+d+e)/2
　AP･AQ=p･q={(d+e)/2}・{(2b+d+e)/2}
　　　　=(1/4){(d+e)･(2b+d+e)}
　　　　=(1/4){2bd+|d|^{2}+de+2eb+de+|e|^{2}}
　　　　=(1/4){2α^{2}}
　　　　=α^{2}/2

ＷＥＢでベクトルを表すのって、やりにくいですね。
わかりにくくて、ごめんなさい。

助っ人の池田です。

まず vec{OP}, vec{OQ}, vec{OR} を vec{a}, vec{b}, vec{c} で求めるとどうなるかと言いますと、
　　　vec{OP}=(1/2)vec{a},
　　　vec{OQ}=(2/3)vec{b},
　　　vec{OR}=(3/4)vec{c}
となります。

(1) △PQR の重心の座標は
　　　vec{OG}=frac{vec{OP}+vec{OQ}+vec{OR}}{3}
　　　　　　　=frac{(1/2)vec{a}+(2/3)vec{b}+(3/4)vec{c}}{3}
　　　　　　　=(1/6)vec{a}+(2/9)vec{b}+(1/4)vec{c}
となります。

(2) 実数 k に対して vec{OH}=k vec{OG} とおいてみます。
（H は OG の延長上にありますから）
すると
　　　vec{OH}=k vec{OG}
　　　　　　　=k((1/6)vec{a}+(2/9)vec{b}+(1/4)vec{c})
　　　　　　　=(1/6)k vec{a}+(2/9)k vec{b}+(1/4)k vec{c}
となります。
ここで H が平面 ABC 上にあるのですから、それぞれの係数の和、つまり
　　　(1/6)k+(2/9)k+(1/4)k
が１でなければなりません。ですから
　　　(1/6)k+(2/9)k+(1/4)k=1
　　　(1/6+2/9+1/4)k=1
　　　(23/36)k=1
　　　k=36/23
となります。これを元の式に代入すれば
　　　vec{OH}=(1/6)(36/23)vec{a}+(2/9)(36/23)vec{b}+(1/4)(36/23)vec{c}

　　　　　　　=(6/23)vec{a}+(8/23)vec{b}+(9/23)vec{c}
となります。

どうもありがとうございました。
本当に助かりました。

大化さん，はじめまして。大化の改新からのHNなんですか？

(2)のいわゆる“共面条件”
　　vec{h}=l vec{a}+m vec{b}+c vec{c} と表せるとき，
　４点　A,B,C,H が同一平面内にあるならば，l+m+n=1　である。
のところが解かりにくいと思いますので，これを簡単に説明します。

今，４点　A,B,C,H が同一平面内にあるとすると，
　vec{AH}=α vec{AB}+β vec{AC} と表すことができますね。
これを，位置ベクトルで書きなおすと
　　vec{h}-vec{a}=α (vec{b}-vec{a})+β(vec{c}-vec{a})
　　　　　　　　　=α vec{b}-α vec{a}+β vec{c}-β vec{a}
　　　vec{h}=(1-α-β)vec{a}+α vec{b}+β vec{c}　が成り立ちます。
ここで，改めて vec{a}の係数をl，vec{b}の係数をm，vec{c}の係数をn
と置きなおすと，l=1-α-β　，m=α　，n=β　
ですから，l+m+n=1 が成立します。

(1) は　vec{g}=frsc{1}{6} vec{a}+frac{2}{9} vec{b}+frac{1}{4} vec{c}
になると，思います。

vec{h}=k vec{g} とすると，
vec{h}=frac{k}{6} vec{a}+frac{2k}{9} vec{b}+frac{k}{4} vec{c} …�@

共面条件（係数和=1）より，frac{k}{6}+frac{2k}{9}+frac{k}{4}=1
これを解いて　k=36/23　　，�@に代入して
vec{h}=frac{6}{23} vec{a}+frac{8}{23} vec{b}+frac{9}{23} vec{c}

池田先生，いつもご丁寧で解かりやすい回答，ありがとうございます。
みごとにレスかぶっちゃいましたね。

いえいえ、私如きの説明などは共面条件の説明が全くなくて、
ただ単に共面条件を利用しただけですから、
新矢先生のレスに助けられましたよ。私からも、ありがとうございました。