解：
∵四边形$OA'C'B'$是边长为6的菱形，
∴$OA' = A'C' = 6$，且$OA' // C'B'$，$A'C' // OB'$。
∵$\triangle A'B'C'$是等边三角形，
∴$A'C' = B'C' = 6$，$\angle A'C'B' = 60°$。
又
∵位似中心为原点$O$，相似比为3，
∴点$A$是点$A'$以原点为位似中心、相似比$\frac{1}{3}$的位似变换对应点。
过点$A'$作$A'D \perp x$轴于点$D$，
在菱形$OA'C'B'$中，$OC'$为对角线，$\angle A'C'D = 30°$，
∴$C'D = A'C' · \cos 30° = 6 · \frac{\sqrt{3}}{2} = 3\sqrt{3}$，$A'D = A'C' · \sin 30° = 6 · \frac{1}{2} = 3$。
∵$OC' = 2C'D = 6\sqrt{3}$（菱形对角线平分内角且互相平分），
∴点$A'$的横坐标为$OD = OC' - C'D = 6\sqrt{3} - 3\sqrt{3} = 3\sqrt{3}$，纵坐标为$A'D = 3$，即$A'(3\sqrt{3}, 3)$。
由位似变换性质，点$A$坐标为$\left(3\sqrt{3} · \frac{1}{3}, 3 · \frac{1}{3}\right) = (\sqrt{3}, 1)$。
$(\sqrt{3},1)$

解：设点$B(a,0)$，点$C(b,0)$，则$BC = b - a$。
因为四边形$ABCD$是矩形，所以点$A(a,\frac{k}{a})$，点$D(b,\frac{k}{a})$。
设直线$BD$的解析式为$y = mx + n$，将$B(a,0)$，$D(b,\frac{k}{a})$代入得：
$\begin{cases}am + n = 0 \\bm + n = \frac{k}{a}\end{cases}$
解得$m = \frac{k}{a(b - a)}$，$n = -\frac{ka}{a(b - a)} = -\frac{k}{b - a}$，所以$E(0,-\frac{k}{b - a})$。
$\triangle BCE$的面积为$\frac{1}{2} × BC × |OE| = \frac{1}{2}(b - a) × \frac{k}{b - a} = \frac{k}{2} = 9$，解得$k = 18$。
18