MathGenix 2026년 고3 9월 모의고사 대비 시험 05 (확률과 통계) 정답 및 풀이집 | 15·22·30번 상세해설

함수 $f(x)$는 다항함수이므로 실수 전체의 집합에서 연속이다. 만약 $f(2)\ne 0$이라면 $x=2$ 근방에서 $f(x)\ne 0$이므로, ${lim}_{x\to 2}g(x)$$={lim}_{x\to 2}\frac{f(x+1)-1}{f(x)}$$=\frac{f(3)-1}{f(2)}$$=g(2)$가 된다. 이 경우 주어진 조건 ${lim}_{x\to 2}g(x)=g(2)-6$은 $g(2)=g(2)-6$, 즉 $0=-6$이 되어 모순이다. 따라서 $f(2)=0$이어야 한다.

$f(2)=0$이므로, 함수 $g(x)$의 정의에 따라 $g(2)=4$이다. 주어진 조건에 대입하면 ${lim}_{x\to 2}g(x)=4-6=-2$이다. 즉, ${lim}_{x\to 2}\frac{f(x+1)-1}{f(x)}=-2$이다. 이때 $x\to 2$이면 분모가 $f(x)\to f(2)=0$으로 수렴하므로, 극한값이 존재하기 위해서는 분자도 $0$으로 수렴해야 한다. 따라서 ${lim}_{x\to 2}\{f(x+1)-1\}=f(3)-1=0$이므로 $f(3)=1$이다.

최고차항의 계수가 $1$인 삼차함수 $f(x)$에 대하여 $f(2)=0,f(3)=1$이므로 $f(x)=x^3+a{x}^2+bx+c$라 하면 $f(2)=8+4a+2b+c=0$, $f(3)=27+9a+3b+c=1$이다. 두 식을 빼면 $19+5a+b=1$, 즉 $5a+b=-18$이다.
한편, ${lim}_{x\to 2}\frac{f(x+1)-1}{f(x)}$$={lim}_{x\to 2}\frac{f(x+1)-f(3)}{f(x)-f(2)}$$={lim}_{x\to 2}\frac{\frac{f(x+1)-f(3)}{x-2}}{\frac{f(x)-f(2)}{x-2}}$$=\frac{f^{\prime }(3)}{f^{\prime }(2)}$$=-2$이다. $f^{\prime }(x)=3x^2+2ax+b$이므로 $f^{\prime }(2)=12+4a+b$, $f^{\prime }(3)=27+6a+b$이다. $f^{\prime }(3)=-2f^{\prime }(2)$에서 $27+6a+b=-2(12+4a+b)$, 즉 $14a+3b=-51$이다.
연립방정식 $5a+b=-18$과 $14a+3b=-51$을 풀면 $a=-3,b=-3$이다. $c=-8-4a-2b=-8+12+6=10$이므로 $f(x)=x^3-3x^2-3x+10$이다.

구하는 값은 $g(3)$이다. $f(3)=3^3-3(3^2)-3(3)+10=1\ne 0$이므로 $g(3)=\frac{f(3+1)-1}{f(3)}=\frac{f(4)-1}{f(3)}$이다.
$f(4)=4^3-3(4^2)-3(4)+10=64-48-12+10=14$이므로, $g(3)=\frac{14-1}{1}=13$이다.

점 $A$의 좌표를 $(a,{\log }_{3}a)$, 점 $B$의 좌표를 $(b,{\log }_{3}b)$라 하자. (단, $a\ne b$, $a>0,b>0$)

(가) 선분 $\mathrm{A}\mathrm{B}$를 나타내는 벡터는 $(b-a,{\log }_{3}b-{\log }_{3}a)$이다. 직선 $y=-x$의 방향벡터는 $(1,-1)$이고, 이 방향의 단위벡터는 $(\frac{1}{\sqrt{2}},-\frac{1}{\sqrt{2}})$이다. 선분 $\mathrm{A}\mathrm{B}$의 직선 $y=-x$ 위로의 정사영의 길이는 두 벡터의 내적의 절댓값과 같으므로,
$|(b-a)·\frac{1}{\sqrt{2}}+({\log }_{3}b-{\log }_{3}a)·(-\frac{1}{\sqrt{2}})|$$=\frac{1}{\sqrt{2}}|(b-a)-({\log }_{3}b-{\log }_{3}a)|$$=\frac{1}{\sqrt{2}}|(a-b)+({\log }_{3}a-{\log }_{3}b)|$$=\frac{7\sqrt{2}}{2}$이다.
따라서 $|(a-b)+({\log }_{3}a-{\log }_{3}b)|=7$이다. $a>b$라고 가정하면 $(a-b)+({\log }_{3}a-{\log }_{3}b)=7$이다.

(나) 직선 $\mathrm{A}\mathrm{B}$가 점 $(-3,0)$을 지나므로, 세 점 $A,B,(-3,0)$은 한 직선 위에 있다. 따라서 직선의 기울기가 일정하므로 $\frac{{\log }_{3}a-0}{a-(-3)}=\frac{{\log }_{3}b-0}{b-(-3)}$ 즉, $\frac{{\log }_{3}a}{a+3}=\frac{{\log }_{3}b}{b+3}$이다.
함수 $f(x)=\frac{{\log }_{3}x}{x+3}$를 생각하면 $f(a)=f(b)$이다. $a=9,b=3$일 때 $f(9)=\frac{{\log }_{3}9}{9+3}=\frac{2}{12}=\frac{1}{6}$이고, $f(3)=\frac{{\log }_{3}3}{3+3}=\frac{1}{6}$이므로 $f(9)=f(3)$이 성립한다. 또한 (가)의 식에 대입하면 $(9-3)+({\log }_{3}9-{\log }_{3}3)=6+(2-1)=7$이므로 조건 (가)도 만족한다. 따라서 두 점의 좌표는 $A(9,2),B(3,1)$이다.

점 $A(9,2)$에서 직선 $y=x$에 내린 수선의 발 $P$가 있고, 점 $B(3,1)$을 $y=x$에 대칭이동한 점은 $Q(1,3)$이다. 직선 $\mathrm{A}\mathrm{P}$와 직선 $\mathrm{B}\mathrm{Q}$는 모두 직선 $y=x$에 수직이므로 서로 평행하다. 따라서 사각형 $\mathrm{A}\mathrm{P}\mathrm{Q}\mathrm{B}$는 사다리꼴이다.
사다리꼴의 높이는 평행한 두 직선 사이의 거리와 같다. 직선 $\mathrm{A}\mathrm{P}$의 방정식은 $x+y=11$, 직선 $\mathrm{B}\mathrm{Q}$의 방정식은 $x+y=4$이므로, 높이 $h=\frac{|11-4|}{\sqrt{1^2+1^2}}=\frac{7}{\sqrt{2}}$이다.
$\overline{\mathrm{A}\mathrm{P}}$는 점 $A(9,2)$와 직선 $x-y=0$ 사이의 거리이므로 $\overline{\mathrm{A}\mathrm{P}}=\frac{|9-2|}{\sqrt{1^2+(-1{)}^2}}=\frac{7}{\sqrt{2}}$이다.
$\overline{\mathrm{B}\mathrm{Q}}$는 점 $B(3,1)$과 점 $Q(1,3)$ 사이의 거리이므로 $\overline{\mathrm{B}\mathrm{Q}}$$=\sqrt{(3-1{)}^2+(1-3{)}^2}$$=\sqrt{4+4}$$=\sqrt{8}$$=2\sqrt{2}$이다.
사각형 $\mathrm{A}\mathrm{P}\mathrm{Q}\mathrm{B}$의 넓이는 $\frac{1}{2}(\overline{\mathrm{A}\mathrm{P}}+\overline{\mathrm{B}\mathrm{Q}})h$$=\frac{1}{2}(\frac{7}{\sqrt{2}}+2\sqrt{2})\frac{7}{\sqrt{2}}$$=\frac{1}{2}\left(\frac{7+4}{\sqrt{2}}\right)\frac{7}{\sqrt{2}}$$=\frac{1}{2}·\frac{11}{\sqrt{2}}·\frac{7}{\sqrt{2}}$$=\frac{77}{4}$이다.
따라서 $p=4,q=77$이고, $p+q=4+77=81$이다.

12 이하의 자연수 중 홀수는 $\{1,3,5,7,9,11\}$의 6개, 짝수는 $\{2,4,6,8,10,12\}$의 6개이다.
조건 (나)에서 네 자연수의 합이 홀수이므로, 홀수의 개수는 1개 또는 3개여야 한다.
조건 (가)의 부등식은 $x_2=x_3$인 경우와 $x_2<x_3$인 경우로 나눌 수 있다.

1. $x_1<x_2<x_3<x_4$인 경우:
네 수가 모두 다르므로, 12 이하의 자연수 중 4개를 선택하면 순서쌍이 하나로 결정된다.
(i) 홀수 1개, 짝수 3개 선택: ${}_6{C}_1{\times }_6{C}_3=6\times 20=120$가지
(ii) 홀수 3개, 짝수 1개 선택: ${}_6{C}_3{\times }_6{C}_1=20\times 6=120$가지
따라서 이 경우의 수는 $120+120=240$이다.

2. $x_1<x_2=x_3<x_4$인 경우:
세 개의 서로 다른 자연수 $a,b,c$를 $a<b<c$가 되도록 선택하여 $x_1=a,x_2=x_3=b,x_4=c$로 정하는 경우이다.
이때 $x_1+x_2+x_3+x_4=a+2b+c$이고, 합이 홀수이려면 $a+c$가 홀수여야 한다. 즉, $a$와 $c$는 하나는 홀수, 하나는 짝수여야 한다.
(i) $a$는 홀수, $c$는 짝수인 경우:
$a=1$일 때, $c$는 $4,6,8,10,12$가 가능하고 $b$는 $c-1-1=c-2$가지이다. 총 $2+4+6+8+10=30$가지이다.
같은 방식으로 $a=3,5,7,9,11$일 때를 계산하면, 모든 경우의 수는 $30+20+12+6+2+0=70$가지이다.
(ii) $a$는 짝수, $c$는 홀수인 경우:
$a=2$일 때, $c$는 $3,5,7,9,11$이 가능하고 $b$는 $c-1-2=c-3$가지이다. 총 $0+2+4+6+8=20$가지이다.
같은 방식으로 $a=4,6,8,10$일 때를 계산하면, 모든 경우의 수는 $20+12+6+2+0=40$가지이다.
따라서 이 경우의 수는 $70+40=110$이다.

두 경우에 따라 전체 순서쌍의 개수는 $240+110=350$이다.